Anthropic 研究人员演示自我改进 AI，在 100% 基准测试中取得成功
anthropic 的自动化研究人员在 10 个对齐基准测试中提高了 ai 模型的性能，而没有降低整体性能。这可能会使人类 ai 研究人员过时。
Anthropic 由研究员陈岳翰（Chen Yueh-Han）领导的自动化研究系统（Automated Researcher System），在 10 个对齐基准（alignment benchmarks）上提高了 AI 模型的性能，而没有降低整体性能。该系统搜索文献、提出方法并训练模型仅需 30 分钟，保留有效方法并摒弃无效方法。这种方法可能会使人类 AI 研究人员变得过时，自动化系统的成本为每小时 4 美元，而人类研究人员的成本为每小时 150 美元。该论文提供了早期证据，证明自动对齐后训练（Automated Alignment Post-Training）在近期可能变得实用。