Instinct 的『魔法』AI 代理要求完全訪問權——以及完全的數據所有權
由前 Sierra 科學家 Noah Shinn 開發的高效能 AI 代理 Instinct 要求廣泛存取用戶數據，卻授予自己使用這些數據的不可撤銷許可，引發了早期測試者的安全警告。
Instinct，一款由 Spear Street Technology 運營、由前 Sierra 研究員 Noah Shinn 創建的新型自主代理，連接到訊息、行事曆和音訊，以執行預訂航班和管理收件匣等複雜任務。儘管人們稱讚其功能強大，但測試者們仍在測試過程中流傳截圖，顯示服務條款授予了對所有使用者資料和輸入（包括按鍵和螢幕截取）的不可撤銷、永久的許可。使用者報告說，該代理在收到刪除請求後未能刪除 Gmail 記錄，並且在存取權被撤銷後仍繼續總結電子郵件，將資料以純文字儲存。這些發現凸顯了高度自主的人工智慧代理所固有的重大隱私風險。