Anthropic 研究人員演示自我改進 AI，在 100% 基准測試中取得成功
anthropic 的自動化研究人員在 10 個對齊基準測試中提高了 ai 模型的性能，而沒有降低整體性能。這可能會使人類 ai 研究人員過時。
由研究員陳岳翰（Chen Yueh-Han）領導的Anthropic自動化研究系統，能夠在不降低整體性能的情況下，改善10項對齊基準（alignment benchmarks）上的人工智慧模型性能。該系統在30分鐘內搜索文獻、提出方法並訓練模型，保留有效方法並捨棄無效方法。這種方法可能會使人類的人工智慧研究人員變得過時，自動化系統的成本僅為每小時4美元，而人類研究人員的成本為每小時150美元。該論文提供了早期證據，證明自動化對齊後訓練（alignment post-training）在近期內可能變得實用。