AnthropicとOpenAI、安全性評価者を組み込むも、その独立性は
AnthropicとOpenAIは、安全性インシデントの報告やモデルのアライメント評価を行うため、第三者評価者を組み込む計画だが、独立性やアクセスに関する詳細は依然として不明瞭だ。これはAI業界の安全基準に影響を与える。
anthropic ceo dario amodeiは、最先端AI企業内に第三者評価者を組み込み、安全性インシデントの報告とモデルのアライメント評価を行うためのアクセス権を与えることを提案した。openai ceo sam altmanもこの取り組みを約束した。評価者らはこの提案を歓迎するが、独立性を確保するためには、立法に裏付けられる可能性のある詳細な規定が必要だと強調している。この動向は、AI業界の安全性基準と透明性に影響を与えるものである。