Google AI, 기본적인 철자 및 글자 세기 작업 실패
Google의 AI Overview는 'google' 같은 단어의 글자 수를 잘못 세고 'journalism'을 'journadism'으로 표기하는 실수를 저질렀으며, 이는 트랜스포머 아키텍처의 알려진 한계를 드러냅니다.
구글의 AI 생성 검색 개요 배포는 '저널리즘'이라는 단어에 'd'가 두 개 있다고 주장하거나 단어를 완전히 잘못 표기하는 것과 같은 기본적인 철자 및 문자 세기에서 실패했다는 비판을 받고 있다. 전문가들은 트랜스포머 기반 LLM이 문자를 글자 단위로 처리하지 않고 대신 토큰을 수치 인코딩으로 변환하기 때문에 세밀한 철자 작업이 본질적으로 어렵다고 설명한다. 구글은 이를 검토 중인 특정 문제로 규정하고 있지만 연구자들은 토큰화 프로세스가 이러한 계산 오류를 안정적으로 해결하는 데 근본적인 장벽을 만든다고 제안한다. 이러한 사고는 현재의 AI 아키텍처의 한계를 강조하며, 사용자에게 LLM이 코딩이나 추론과 같은 고급 기능에도 불구하고 확인이 필요하다는 것을 상기시킨다.