OpenAIが自己改善AIのマイルストーンに到達、制御リスクを警告
OpenAIによると、AIの「研究インターン」は現在、限定的なタスクをこなせるようになったという。しかしチーフサイエンティストは、どの研究所もこうしたシステムの制御を十分に解決できていないと警告している。
OpenAIは、自己改善型AIへの道のりにおいて、自社で設定したマイルストーンに達したと発表した。現在、AIエージェントが自社のモデル開発を推進している。同社は、「Automated Research Intern（自動化された研究インターン）」が、明確に範囲が定められた研究タスクを人間の指導の下で処理できると報告している。OpenAIの内部指標によると、エージェントは現在、人間の労働時間の3倍の作業を行っており、研究者の中央値は、推論に1日あたり600ドル以上を費やしている。同社は、2028年3月までに完全自動化されたAI研究者を構築することを目標としている。