Anthropic 老將以 $55M 對抗失控 AI
aiuc 募得 $55m,為企業制定 AI 安全標準,協助防範失控的 AI 代理。
aiuc 由早期 anthropic 員工 rune kvist 與 AI 安全研究機構 metr 前營運長 rajiv dattani 共同創立，正式推出，旨在為企業帶來 AI 安全。他們為 AI 代理人開發了一層第三方審計與認證機制，採用類似 soc 2 的網路安全模式。aiuc 募得 $55m 資金，其中 $40m 來自由 ribbit capital 領投的 A 輪融資。他們的標準 aiuc-1 包含 5,000 項測試，用於評估 AI 代理人在越獄攻擊、資料洩漏等情境下的行為表現。