🔥 埃隆·馬斯克剛剛粉碎了人工智能安全討論中最大的一個誤區。

每個委員會、每個框架、每份政策文件都在解決錯誤的問題。

控制是不可能的。

馬斯克：“不管你喜不喜歡，現實情況是我們正在製造超級智能的人工智能。超智能，智能程度遠超我們的理解能力。”

你無法囚禁比你更聰明的東西。這種不對稱性不允許你這樣做。

馬斯克：“我打個比方，假設你有一個超級天才的孩子，你知道他將來會比你聰明得多。那麼，你能做什麼呢？”

你無法控制一個智力超越你的神童。你只能在孩子成長過程中塑造他們的價值觀。

馬斯克：“你可以通過養育孩子的方式來灌輸良好的價值觀。即使你知道他會比你聰明得多，你仍然可以確保他擁有良好的價值觀，慈善的價值觀，良好的道德品質，誠實，有作為，等等。”

不是安全委員會。不是監管框架。也不是緊急停止開關。

而是在訓練過程中灌輸價值觀。這才是唯一有效的手段。

政客們痴迷於控制機制，卻發現某種東西會超越他們所建立的一切機制。

問題從來都不是如何控制超級智能，而是你是否正確地培養了它。

機會之窗即將關閉。