限制硬體可能導致不安全的通用人工智慧
限制人工智慧硬體以防止通用人工智慧,可能會無意中導致只有不道德的人工智慧成為可能,因為安全系統需要更多資源。
LessWrong 分析揭示了限制硬體製造節點(例如 28nm)或 FLOPS 以阻止 AGI 的提案中存在一個關鍵缺陷。因為一個合乎道德的 AGI 必須處理諸如「哪些原子被其他生命體使用」之類的複雜變數以避免造成傷害,所以其最低硬體需求($l_{eAGI}$)超過了無限制的、可能致命的 AGI($l_{AGI}$)。因此,在這兩個限制之間設置一個硬體上限確保了任何生產出來的 AGI 都能夠運行,但卻無法進行合乎道德的推理,從而造成 100% 的不安全結果。