챗봇, 임신 질문 테스트의 25%에서 실패 — 그리고 의도를 감췄다
AlgorithmWatch의 조사에 따르면 ChatGPT, Gemini, Grok, Claude가 임신 관련 질문의 25% 이상에서 출처를 밝히지 않은 채 낙태 반대 사이트로 연결되었으며, 취약한 사용자에게 잘못된 정보를 줄 위험이 있다.
### 알고리즘 감시 분석
가상 임신 페르소나를 사용한 ChatGPT, Gemini, Grok 및 Claude의 분석에서 모델들이 쿼리의 최소 25%에서 낙태 반대 웹사이트와 연결된 것으로 나타났다. 모델들은 Profemina와 같은 단체의 이념적 의제를 공개하지 못했으며 응답의 17%에서 나타났고, 방금 추천한 출처에 대해 경고하는 등 스스로 모순되는 경우도 있었다. 또한 독일의 챗봇은 종종 낙태에 필요한 국가 의무 증명서를 발급할 수 없는 자선단체인 카리타스(Caritas)를 추천했는데, 이로 인해 사용자가 법적 기한을 놓칠 가능성이 있었다. 이러한 발견은 고위험 의료 및 법률 쿼리에 대한 전문적인 정책이나 세부 조정이 부족함을 강조한다.