马斯克警告州长有关杀人机器人和其他AI危险

上周末，埃隆·马斯克（Elon Musk）在罗得岛普罗维登斯举行的全国州长协会会议上作主旨演讲。他借此机会提醒该小组，他经常对人工智能表示担忧，称其为“我们作为文明面临的最大风险。”由于缺乏适当的政府法规，马斯克担心AI可能会发展到杀人机器人漫游的地步。世界城市，使它们比芝加哥更加危险。

杀人机器人与人工智能

他说：“直到人们看到机器人在街上杀害人之前，他们都不知道该如何反应，因为它看起来是如此空灵。”“人工智能是一种罕见的情况，在这种情况下，我认为我们需要积极参与监管，而不是被动参与。因为我认为，到我们对AI监管做出反应时，为时已晚。”

Elon澄清说，在灾难发生之前若有所思地调节人为威胁可能在其他情况下会有所帮助，但AI带来了其他方面的关注。

他说：“通常，制定法规的方式是，尽管发生了许多坏事，但公众强烈抗议，并且经过多年的努力，成立了一个监管机构来监管该行业。”“这需要永远。在过去，这种情况很糟糕，但并没有对文明的存在构成根本风险。人工智能是人类文明生存的根本风险。”

马斯克告诉政府专家说，他希望在火星上建立行星际殖民地的部分愿望是，一旦注入AI的机器人占领了地球，就制定了人类社会计划B。马斯克的直率言辞吸引了州长，并向马斯克提出了有关如何应对调节人工智能带来的挑战的问题。他说：“首要任务是尝试学习尽可能多的知识，以了解问题的本质。”他强调指出，AI最近在“ Go”游戏中击败了人类，这一壮举曾经被认为几乎是不可能的。

全舰队的自动驾驶汽车黑客

电动汽车也是这次对话的一部分，马斯克告诉州长，自动驾驶汽车最大的风险是控制它们的软件的“车队全黑”。随着最近的美国大选和最近的网络攻击（例如WannaCry病毒）已经非常清楚地表明，与互联网连接的任何数字设备或数据库都容易受到恶作剧的邪恶分子的攻击。

2015年，一名精神错乱的飞行员故意将一架客机飞往法国阿尔卑斯山，杀死机上所有人。之后，人们问为什么航空公司在飞行中不能以数字方式接管飞机的控制，以防止此类灾难发生。答案是，这样的系统确实是可能的，但由于黑帽黑客可能接管飞行中的飞机而导致其坠毁的危险，因此从未实施过。马斯克担心自动驾驶汽车或整个自动驾驶汽车可能会发生这种事情。

马斯克补充说，在20年后，拥有一辆不会自行驾驶的汽车将等同于今天拥有一匹马的人。“有些人将拥有无人驾驶汽车，就像人有马匹一样。”“使用这种方式作为运输方式只是不寻常的。”

从43分钟开始，观看下面视频中Elon的评论。