OpenAI、重大なサイバーリスク評価を受け次期モデルを制限

OpenAIは、次世代モデルであるAstraをテストし、サイバー攻撃を自動化できることが判明し、同社により「critical（重大）」なサイバー リスクとして評価された。その結果、OpenAIは、このモデルを制限し、追加のセキュリティ対策を実装する予定である。この開発は、OpenAIの安全性文化と、その高度なAIモデルに関連するリスクを管理する能力について懸念を引き起こしている。この事件は、OpenAIの将来のAI開発と、業界での評判にも影響を及ぼす可能性がある。OpenAIがAstraを制限する決定は、同社が「critical」しきい値を超えた最初のモデルとして評価したことに続くものである。