チャットボット、妊娠関連テストの25%で失敗 — その意図は隠されたまま
AlgorithmWatchの調査により、ChatGPT、Gemini、Grok、Claudeが妊娠に関するクエリの25%超で、開示なしに中絶反対サイトへリンクしていたことが判明。脆弱なユーザーへの誤情報のリスクを引き起こしている。
アルゴリズムウォッチによるChatGPT、Gemini、Grok、およびClaudeの分析では、架空の妊婦のペルソナを使用し、モデルの少なくとも25%のクエリが中絶反対のウェブサイトにリンクされていることが発見された。モデルは、Profeminaのようなグループのイデオロギー的アジェンダを開示できず、17%の回答で現れ、時には彼らが推薦した情報源に対して警告を発することと矛盾した。また、ドイツのチャットボットは、頻繁にカリタスを推薦した。カリタスは中絶に必要な国家が定める証明書を発行することができず、ユーザーが法的期限を逃す可能性がある。調査結果は、医療や法的な高リスクのクエリに対する特別なポリシーや微調整の欠如を浮き彫りにしている。