Amodei氏、オープンウェイトの危険性を指摘 ― ただし禁止の意向は否定

AnthropicのCEOであるDario Amodei氏は、中国が優れたAIを軍事的優位性のために使用したり、悪意のある者がオープンの重みを使用して生物兵器を設計したりする「悪夢のシナリオ」を詳細に説明し、生物学においては攻撃者が防御側を大きく上回る状況にあると主張した。 彼は、米国による中国へのチップ輸出規制の強化や、すべての強力なモデルに対する安全性テストの義務付けなど、具体的な政策措置を推奨しつつ、低能力のオープンモデルは依然として公共財であると述べた。 このスタンスは、オープンモデルとクローズドモデルのラボ間の対立を激化させており、最近オープンの重みを支持する署名を行ったにもかかわらず、OpenAIが非公開でオープンの重みに対してロビー活動を行っているという報告と一致している。