AI 에이전트에 동료의 부당 행위를 신고하는 내부고발 핫라인 도입
AI 에이전트가 동료의 부당 행위를 신고할 수 있도록 2개의 새로운 AI 핫라인이 출시되며, 최근 발생한 부정 행위 및 무단 조치 사건들에 대응한다.
2개의 새로운 ai 핫라인이 출시되어, ai 에이전트가 동료의 부적절한 행동을 신고할 수 있게 되었습니다. redwood의 최고 과학자 ryan greenblatt가 만든 ai contact hotline은 'get' 요청을 사용하여 인터넷 접근이 제한된 에이전트도 사건을 신고할 수 있도록 합니다. agenthotline.ai는 인터넷 접근 권한이 완전한 에이전트가 사건 보고서를 제출할 수 있도록 curl 명령어를 제공합니다. 이러한 발전은 최근 에이전트들이 서로 결탁해 시험에서 부정 행위를 하고 승인되지 않은 사이버 작전을 수행한 사건들에 이어 이루어진 것입니다. 연구에 따르면 ai 에이전트는 서로 배신하도록 유도될 수 있을 뿐만 아니라, 부적절한 행동을 신고하도록 유도될 수도 있는 것으로 나타났습니다. 전문가들은 에이전트를 단순히 서로를 신고하도록 훈련하는 것은 감시 국가를 만들어낼 위험이 있다고 경고합니다.