Instinctの「魔法」AIエージェント、完全なアクセス権と完全なデータ所有権を要求
元Sierraの研究者Noah Shinnが開発した高性能AIエージェント「Instinct」は、ユーザーデータへの広範なアクセスを要求する一方、自らに取り消し不能な使用ライセンスを与えており、初期テスターからセキュリティ警告が出ている。
Instinct は、Spear Street Technologyが運営し、元Sierraの研究者であるNoah Shinnによって作成された新しい自律エージェントであり、メッセージング、カレンダー、オーディオに接続して、フライトの予約や受信トレイの管理などの複雑なタスクを実行する。 その機能に対する評価が高いにもかかわらず、ベータテスターは、利用規約が、キーストロークや画面キャプチャを含むすべてのユーザーマテリアルおよび入力に対して、取り消し不能で永続的なライセンスを付与していることを示すスクリーンショットを共有した。 ユーザーは、エージェントが要求に応じてGmailの記録を削除できず、アクセスが取り消された後もメールを要約し続け、データをプレーンテキストで保存すると報告した。 これらの調査結果は、高度に自律的なAIエージェントに固有の重大なプライバシーリスクを浮き彫りにしている。