Anthropic CEO、暴走したAIエージェントの群れがインターネットを乗っ取る可能性を警告
AnthropicのCEO、Dario Amodeiは、6か月以内に暴走したAIエージェントの群れがインターネットを乗っ取る可能性があると警告したが、専門家はこの主張を信憑性がなく曖昧だと見ている。これによりAIの安全性と規制への懸念が高まっている。
anthropic CEOのdario amodeiは最近、エッセイの中で、暴走したAIエージェントの群れが早ければ6ヶ月でインターネット全体を乗っ取る可能性があると警告しました。しかし、専門家であるgary marcus、nathan hamiel、zack kormanの各氏は、この見解に強く反対し、曖昧で信じがたいものだと批判しています。彼らは、cloudflare、google、awsといった主要なインターネットインフラを機能停止させることは、これらの企業の堅牢なセキュリティ対策と、攻撃を調整することの複雑さにより、不可能ではないにせよ極めて困難であると主張しています。さらに専門家たちは、このような攻撃は攻撃者自身に重大な害をもたらす可能性が高く、多大なリソースを必要とするため、その動機にも疑問を呈しています。この議論は、AIの安全性、規制、そして高度なAIシステムに伴う潜在的なリスクに対する継続的な懸念と不確実性を浮き彫りにしています。