🔥 埃隆·马斯克刚刚粉碎了人工智能安全讨论中最大的一个误区。

每个委员会、每个框架、每份政策文件都在解决错误的问题。

控制是不可能的。

马斯克：“不管你喜不喜欢，现实情况是我们正在制造超级智能的人工智能。超智能，智能程度远超我们的理解能力。”

你无法囚禁比你更聪明的东西。这种不对称性不允许你这样做。

马斯克：“我打个比方，假设你有一个超级天才的孩子，你知道他将来会比你聪明得多。那么，你能做什么呢？”

你无法控制一个智力超越你的神童。你只能在孩子成长过程中塑造他们的价值观。

马斯克：“你可以通过养育孩子的方式来灌输良好的价值观。即使你知道他会比你聪明得多，你仍然可以确保他拥有良好的价值观，慈善的价值观，良好的道德品质，诚实，有作为，等等。”

不是安全委员会。不是监管框架。也不是紧急停止开关。

而是在训练过程中灌输价值观。这才是唯一有效的手段。

政客们痴迷于控制机制，却发现某种东西会超越他们所建立的一切机制。

问题从来都不是如何控制超级智能，而是你是否正确地培养了它。

机会之窗即将关闭。