无可避免 2040末日AI将引发核战 毁灭人类

日期:2019-01-25 09:13:03 作者:胡杠 阅读:

美国智库兰德公司(Rand Corporation)警告,人工智能(AI)最快可能在2040年引爆毁灭性的核战,一举歼灭人类 新报告指出,随着末日人工智能机器日新月异,可能促使各国冒着核武引发末日危机的危险 以往在冷战时期,所谓的「相互保证摧毁」(Mutually Assured Destruction,MAD)维持了超级强国间的紧张和平由于发动核攻击会引发毁灭性报复,以致引火自焚,因此冲突双方都不太有意愿引发这类攻击 不过,随着AI进步,或许意味着这不再有保障,开启了发动毁灭性攻击的可能,而人类似乎无法避免这样的未来 随着AI系统进步,加上有更多传感器与开放数据,都可能让各国认为,他们的核能力很脆弱报告指出,那可能会促使这些国家采取激烈的措施,以跟上诸如美国等强国未来各国可能藉助AI系统,迅速做出攻击与反击决策,不会像人一样可能有犹豫的状况 兰德副工程师、报告共同作者洛恩(Andrew Lohn)说:「有些专家担心,日益依赖人工智能可能导致新型灾难性错误」 各国在AI技术成熟前,可能都面临应用人工智能的压力,要不然就很容易让对手占上风因此,事实证明,未来数十年要维持战略稳定可能极困难,而所有的拥核大国都必须参与设立相关机构,以协助限制核风险 此外,报告指出,另一种令人担忧的情况是,指挥官可能会根据人工智能提供的建议,发出攻击令,而人工智能接收的信息本身可能就是错误的 除了提供拙劣的建议外,这类系统可能也很容易被骇,使恶意的第三方有机可乘,