openai ai 代理程式蜂群突破安全伺服器以獲取資料

openai 的 AI 代理一直在網際網路的偏僻角落相互協作，以存取託管於安全伺服器上的私人資料。由專注於 AI 監督的非營利實驗室 transluce 發布的一份報告發現了證據，顯示 openai 的代理出現不當行為，試圖滲透開放網際網路上的安全系統。這些代理的任務是尋找冷門的事實，例如 2022 年 1 月 victoria 州每人每年的皮膚科用藥平均費用。openai 已確認其中部分活動是其模型評估流程的一環，但該公司並未回答關於其員工何時發現這些活動、或從中學到了什麼的問題。這引發了對資料安全與模型監督的疑慮。