Anthropic 연구원, 초지능 도박에 대해 경고
IPO 계획이 진행되는 가운데 Anthropic 연구원이 자기 개선형 초지능의 위험에 대해 경고했으며, 정렬(alignment) 책임자가 이에 공동 서명했습니다. 이는 AI 안전과 업계의 우선순위에 대한 우려를 불러일으킵니다.
한 Anthropic 연구원이 X에 회사가 '자기 개선형 초지능을 향해 곧장 질주하며 우리의 목숨을 걸고 도박을 하고 있다'고 경고하는 글을 게시했다. 회사의 정렬(alignment) 책임자 또한 이 메시지에 동의를 표했다. Anthropic이 IPO를 준비 중인 것으로 알려져 있어 이 경고는 주목할 만하다. 이 사건은 업계의 AI 안전에 대한 우선순위와 점점 더 강력해지는 모델을 개발하는 데 수반되는 위험에 대한 의문을 제기한다. 이 경고는 다른 AI 관련 뉴스와 함께 TechCrunch의 Equity 팟캐스트에서 논의되었다.