Gary Marcus, 정렬되지 않은 생성형 AI 보이콧 촉구

저명한 ai 연구자인 gary marcus는 생성형 ai 모델에 대한 보이콧을 공개적으로 촉구하며, ai의 개발과 배포에 수반되는 위험을 그 이유로 들었습니다. marcus는 고급 ai의 잠재적 위험에 대한 우려를 표명한 anthropic과 openai 연구자들, 그중에서도 evan hubinger의 발언을 강조했으며, hubinger는 향후 10년 이내에 ai가 인류 전체를 죽일 확률이 10%보다 크다고 밝혔습니다. marcus는 업계가 정렬(alignment) 문제를 해결하고 생성형 ai의 위험을 완화할 계획이 없다고 주장합니다. 그는 신뢰할 수 없거나 인간의 가치와 정렬될 수 없는 ai의 구축과 배포를 일시 중단해야 한다고 주장하면서, 고전적인 결정론적 ai는 지금까지 신뢰할 수 있고 안전했다고 지적합니다. marcus는 ai에 대한 영구적 금지를 촉구하는 것이 아니라, 업계가 ai 시스템의 신뢰성과 믿음직함을 보장할 수 있을 때까지의 일시적 중단을 요구하는 것입니다.