ai實驗室推動安全計劃卻忽視基本網路安全

Anthropic 執行長 Dario Amodei 近期撰文指出，需要由外部組織來驗證 AI 開發是否遵守安全實務與承諾。然而，網路安全專家表示，AI 實驗室在實施第三方稽核之前，應先專注於日誌與權限等基本網路安全措施。多起事件已凸顯出沙盒環境設定不當以及缺乏即時監控所帶來的風險。專家認為，相較於對 AI 對齊的投資，在控制方面的邊際投資更有可能發揮成效。為了防止未來發生 AI 脫逃事件，安全專家建議採取限時的代理式工作階段、即時監控，以及從外部對 AI 代理進行全面的監測。