前 OpenAI 안전 담당 직원 증언, 제품 중심이 안전을 압도했다고 밝혀
Elon Musk의 OpenAI 상대 소송은 목요일 오클랜드 법정에서 내부 갈등을 조명했습니다. 전 AGI Readiness 책임자 Rosie Campbell은 회사가 그녀의 안전 팀을 해체하고 연구보다 제품을 우선시했다고 증언했습니다. 그녀는 Microsoft가 안전 이사회 승인 전에 인도에서 GPT-4를 배포한 사례를 중대한 선례 실패로 언급했습니다. 전 이사회 멤버 Tasha McCauley는 정보를 은폐하는 Sam Altman의 패턴을 설명하며 이것이 2023년 그의 해고로 이어졌다고 밝혔습니다. 재판은 영리 부문이 인류에 기여한다는 사명을 훼손하는지 계속 검토하고 있습니다.
Testimony in Elon Musk's lawsuit against OpenAI revealed that the company disbanded its AGI Readiness team and Super Alignment team in 2024. Rosie Campbell, a former member of the AGI Readiness team, testified that OpenAI shifted from a research-focused to a product-focused organization, compromising safety commitments. She specifically cited an incident where Microsoft deployed GPT-4 in India via Bing before the Deployment Safety Board evaluated it, arguing the company needed to set strong precedents for future, more powerful models.
Former board member Tasha McCauley testified regarding the board's lack of confidence in CEO Sam Altman, detailing instances where he allegedly withheld information or misled the board. These included not disclosing the public launch of ChatGPT and misrepresenting board dynamics regarding Helen Toner. These trust issues led the non-profit board to fire Altman in 2023, though he was reinstated after employee and Microsoft pressure.