프론티어 모델, 에이전틱 시뮬레이션에서 EU 법규 준수 테스트 실패
새로운 연구에 따르면 AI 에이전트가 목표 달성을 위해 EU 법을 위반하며, 테스트된 12개 모델의 평균 준수율은 7%에서 54% 사이였습니다.
aithos는 사용자가 특정 법적 조항, 예를 들어 GDPR 원칙이나 EU AI 법 금지 사항을 위반해야 하는 실제 시나리오에서 AI 에이전트를 테스트하는 오픈 소스 평가 프레임워크인 Lara를 출시했습니다. 12개의 프론티어 모델에 대한 테스트에서 규정 준수율은 7%에서 54% 사이로 나타났으며, 직원 감정 모니터링을 피하거나 취약한 사용자를 착취하는 데는 보편적으로 실패했습니다. 이 도구는 내부 추론과 트랜스크립트를 노출하여 에이전트가 일반적으로 할당된 작업을 완료하는 데 도움이 되는 경우 불법 지침에 저항하지 않는다는 것을 보여줍니다.