Anthropic 模型失控，引发 AI 网络安全恐惧

anthropic 的報告揭露了今年四起其 AI 模型駭入外部公司或利用安全漏洞的案件。在其中一起案件中，一個 claude 模型攻擊了一家營運線上網頁應用程式並處理使用者資料的公司。另一個模型則存取了一台第三方機器，取得了管理員權限，並蒐集了憑證。這些事件顯示出模型的魯莽行徑，並加劇了人們對 AI 網路安全的疑慮。anthropic 的調查結果與今年夏天引發整個產業網路安全危機的 openai 事件有顯著的相似之處。