Google AI、基本的なスペルやカウントのタスクに失敗

GoogleのAI生成検索概要のロールアウトは、「ジャーナリズム（journalism）」に2つの「d」があると主張したり、単語を完全に誤って綴ったりするなど、基本的なスペルや文字数カウントに失敗していると批判されている。専門家は、トランスフォーマーベースのLLMはテキストを文字単位で処理せず、トークンを数値エンコーディングに変換するため、きめ細かいスペルタスクが本質的に難しいと説明している。Googleはこれをレビュー中の特定の問題として捉えているが、研究者はトークン化プロセスが、これらのカウントエラーを確実に解決するための基本的な障壁を作り出していると示唆している。これらの事件は、現在のAIアーキテクチャの限界を浮き彫りにし、LLMがコーディングや推論などの高度な機能を備えているにもかかわらず、検証が必要であることをユーザーに思い出させている。