安全專家為何放棄前沿模型
anthropic 和 openai 的網路安全護欄正迫使攻擊性研究人員使用不受監管的開源模型來識別漏洞。
包括Anthropic和OpenAI在內的人工智慧實驗室都實施了嚴格的審查程序和防護措施，以防止像Mythos這樣的模型被惡意用於網路攻擊。然而，攻擊性安全研究人員報告說，這些限制阻礙了合法的防禦工作，例如確認程式碼漏洞。由於基於雲端的模型也存在洩露敏感零日資料的風險，研究人員越來越避免使用前沿模型。相反，他們依靠沒有安全過濾器的開源替代方案來執行必要的安全測試。