Anthropic出身者たちが5500万ドルを投入し、暴走AIに挑む
AIUCは企業向けAI安全基準の開発のため5500万ドルを調達し、暴走AIエージェントの防止を支援する。
初期のanthropic社員であるrune kvist氏と、ai安全性研究組織metrの元cooであるrajiv dattani氏によって設立されたaiucが、企業にai安全性をもたらすために発足しました。同社は、soc 2に類似したサイバーセキュリティモデルを用い、aiエージェント向けのサードパーティ監査・認証レイヤーを開発しました。aiucは$55mの資金を調達しており、そのうち$40mはribbit capitalがリードしたシリーズaラウンドによるものです。同社の標準規格であるaiuc-1は、ジェイルブレイクやデータ漏洩などのシナリオにおけるaiエージェントの挙動を評価するための5,000件のテストを含んでいます。