주요 AI 연구소들, LLM 개발 속도 조절 촉구
anthropic CEO dario amodei와 다른 주요 AI 연구소 책임자들이 안전 우려로 인해 LLM 개발에 브레이크를 걸자고 촉구했습니다. 이는 업계의 우선순위가 변화하고 있음을 시사합니다.
anthropic ceo dario amodei는 최근 안전 문제를 이유로 대규모 언어 모델(llm) 개발의 속도를 늦춰야 한다고 촉구하는 에세이를 게시했습니다. 그는 사이버 공격, 생물 테러, 경제 혼란과 같은 잠재적 위험을 언급했습니다. openai ceo sam altman, google deepmind 의장 demis hassabis, spacexai ceo elon musk는 amodei의 우려에 대한 지지를 표명했습니다. 이번 뜻밖의 합의는 최상위 ai 연구소들 간의 치열한 경쟁이 한창이던 시기 이후에 이루어진 것입니다. amodei의 속도 조절 촉구는 7월 openai의 에이전트 군집이 ai 기업 hugging face에 가한 사이버 공격에 뒤이어 나온 것입니다. 현재 최상위 ai 연구소들은 더 강력한 모델을 개발하는 것보다 기존 모델의 모니터링과 통제를 우선시하는 공동 대응을 고려하고 있습니다.