联合国呼吁人工智能监管，Marcus警告'灾难论者'和失控的人工智能

gary marcus 在 unga 数字合作活动上发表了“框架性”讲话，强调需要平衡的 ai 监管，并警告不要走向极端观点，包括预言字面意义上灭绝的“末日论者”。marcus 强调了近期风险，例如深度伪造的虚假信息以及不可靠的 ai 系统引发网络攻击。他主张提高可靠性、加强网络安全并强化执法，包括召回产品以及起诉发布危险产品的公司。marcus 批评了 openai 最近的模型发布，指出了对监控和网络安全的担忧。他提议成立国际咨询委员会，在 ai 系统部署前后对其进行评估和审计，并达成一项国际协议，不部署被证明有害的架构。这将影响全球 ai 政策、行业实践以及 ai 发展的未来。