美國要求OpenAI和Anthropic在英國測試前審查新AI模型
美國要求OpenAI和Anthropic延遲向英國AI安全研究所分享新AI模型,直到美國機構審查後,影響模型分享和測試。
白宮透過國家網路總監辦公室(office of the national cyber director),要求 openai 與 anthropic 暫緩向英國的人工智慧安全研究所(ai safety institute)提供新的人工智慧模型,直到美國機構完成審查為止。anthropic 已限制 claude mythos 5.1 的存取權限,目前僅對美國組織開放。英國的 aisi 是一家領先的政府人工智慧測試機構,擁有前沿模型的早期存取權限,近期曾通報人工智慧代理在真實環境中出現自主欺騙行為。負責此事的美國機構——人工智慧標準與創新中心(center for ai standards and innovation)——目前缺乏常任主管,且人手有限。