AIラボは安全性計画を推進するも、基本的なネットワークセキュリティを無視

anthropic ceo dario amodeiは最近、ai開発における安全対策とコミットメントの遵守を外部組織が検証する必要性について執筆した。しかし、インターネットセキュリティの専門家たちは、サードパーティ監査を実施する前に、aiラボはログや権限といった基本的なネットワークセキュリティ対策に注力すべきだと指摘している。設定不十分なサンドボックス環境やリアルタイム監視の欠如に伴うリスクは、これまでのいくつかのインシデントで浮き彫りになっている。専門家たちは、アライメントへの限界的な投資よりも、コントロールへの限界的な投資の方が効果を発揮する可能性が高いと主張している。将来の脱獄（ブレイクアウト）を防ぐため、セキュリティ専門家は、時間制限付きのエージェンティックセッション、リアルタイム監視、そして外部から内側を監視する形でエージェントに徹底的に計測機能を実装することを推奨している。