Claude 실패 후 Margaret Atwood, AI를 'garbage in, garbage out'이라 비판
anthropic의 claude가 TV 플롯을 환각하자 margaret atwood는 ai를 일축했으며, 사용자에게 'garbage in, garbage out' 신뢰성 문제를 부각시켰습니다.
바벨 문학 및 문화 축제에서 마거릿 앳우드(Margaret Atwood)는 앤트로포픽(Anthropic)의 클로드(Claude)에 대한 자신의 단일 경험을 자세히 설명하며, 불완전한 소스를 기반으로 훈련했기 때문에 부정확한 정보를 제공했다고 지적했다. 그녀는 AI를 사용하여 부정행위를 하는 '기회주의자'를 비판했지만, 이 기술이 필연적으로 훈련 데이터의 결함을 반복한다고 강조했다. 이는 LLM의 환각 및 데이터 품질에 대한 지속적인 문제를 강조하며, 자동화에 대한 요구에도 불구하고 인간의 감독이 여전히 필수적임을 시사한다.