OpenAIのAstraモデル、サイバーリスクの最上位レベルに到達、同時にこれまでで最も安全とも評価される

OpenAIのAstraモデルは、OpenAIの準備フレームワークにおけるサイバーセキュリティのリスク階層で最高レベルの危険なモデルとして分類されている。このモデルは、従来知られていなかったセキュリティホールを、人の指導なしに、十分に保護されたシステムで発見し、悪用する能力を示した。Astraは、モデルが既知の脆弱性からエクスプロイトを構築する能力を測定するベンチマークであるExploitBenchで満点を獲得した。また、従来知られていなかった2つのゼロデイ脆弱性も発見し、それらを動作するエクスプロイトに繋げた。 OpenAIは、Astraはまた同社で最も安全なモデルであると主張しており、内部評価において、サイバー攻撃の不許可要請に対して91.5％の拒否率を記録した。同社は、生産における潜在的な悪用を監視する分類器を含む、新しい安全対策を実施した。