AI 탐지는 문법이 아닌 논거의 균질성에 의존
pangram CEO max spero는 회사의 탐지기가 균일한 논거 구조를 찾아 AI를 식별한다고 밝히며, LLM이 인간보다 좁은 논리적 대역폭을 만들어낸다고 시사합니다.
팬그램 CEO 맥스 스페로(Max Spero)는 AI 정책 관점(AI Policy Perspectives)에 다음과 같이 설명했다. 자사의 블랙박스 분류기는 모델들이 문서를 구성하고 논리를 전개하는 방식에서 균일한 구조적 패턴을 찾아 AI를 성공적으로 탐지한다. 스페로는 언어 모델이 문법과 논리 면에서 평균적인 인간을 능가할 수 있지만, 인간의 논리적 다양성을 결하고 있어 통계적으로 뚜렷하게 구분되는 클러스터링된 출력을 생성한다고 강조했다. 이러한 동질성이 탐지의 주요 신호로 작용하는데, 팬그램이 식별하는 특정 내부 패턴은 개발자들조차도 거의 해석하지 못했다.