AI 안전 분야, 머지않아 자동화 위기 직면
높은 경제적 유인과 객관적인 피드백 지표로 인해 프론티어 연구소들은 확장 가능한 감독(scalable oversight)과 기계론적 해석가능성(mechanistic interpretability) 연구를 먼저 자동화할 가능성이 높습니다.
프론티어 랩은 더 넓은 자동화된 R&D 목표를 지원하기 위해 기술 안전 연구의 자동화를 우선시하고 있다. 확장 가능한 감독은 자체 자동화에 기존 감독이 필요하다는 순환 종속성에도 불구하고 다른 분야의 자동화에 필요하므로 주요 대상으로 한다. 기계론적 해석가능성은 객관적인 모델 조향 및 특징 검증에 대한 선형 프로브와 같은 기술이 높은 피드백 품질을 제공함으로써 밀접하게 뒤따르고 있다. 이러한 변화는 새로운 안전 연구자들이 자동화 피드백이 좋지 않은 영역 또는 이러한 자동화된 파이프라인의 기본 인프라에 집중해야 함을 의미한다.