CopilotのデフォルトAutoモード、ステレオタイプを捏造
Microsoft CopilotのデフォルトのAutoモードは、同一のデータセットを分析する際に国別のステレオタイプや偽の統計を捏造するが、ChatGPTなどの推論モデルに手動で切り替えることでこの問題は解消される。
数学者のアダム・クチャルスキ氏は、Microsoft Copilotのオートモードが、テキストデータを分析する際に、国固有の違いを捏造することを実証した。たとえば、イタリア人はイギリス人よりも芸術に興味があると主張するが、基礎となるデータセットは同一である。 このツールは、推論モデルを自動的に選択できず、統計分析ではなく言語的ステレオタイプに依存するより単純なモデルにデフォルトで切り替わる。 高度な推論モデルに手動で切り替えたり、ChatGPTやClaude Opusなどのツールを使用すると、AIはコードを実行し、重複を正確に識別し、幻覚レポートを防止する。 これは、データ分析にデフォルトのAI設定を使用する企業にとって、重大なリスクを浮き彫りにする。AIツールは、自信を持って現実に基づかない結果を報告するからだ。