聯合國呼籲人工智慧監管，Marcus警告'災難論者'和失控的人工智慧

gary marcus 在 unga 數位合作活動上發表了關於「框架」的演說，強調人工智慧監管需要保持平衡，並對極端觀點提出警告，包括預測人類將字面意義上滅絕的「末日論者」。marcus 強調了近期的風險，例如深度偽造的虛假資訊，以及不可靠的人工智慧系統引發網路攻擊。他主張提高可靠性、加強網路安全並落實執法，包括產品召回，以及起訴發布危險產品的公司。marcus 批評 openai 近期的模型發布，指出其在監控與網路安全方面的疑慮。他提議成立國際諮詢委員會，在人工智慧系統部署前後進行評估與稽核，並簽訂一項國際協議，承諾不部署明顯有害的架構。這將影響全球人工智慧政策、產業慣例，以及人工智慧發展的未來。