令人忌惮的人工智能,藏着哪些不可测的风险

一、令人忌惮的人工智能,藏着哪些不可测的风险

1、当人们看到像人类一样反应的机器，或者像人类一样执行战略和认知壮举的计算机，模仿人类的聪明才智时，他们有时会开玩笑说，未来人类将需要接受机器人霸主。但这个玩笑背后隐藏着不安的种子。从1968年的《2001:太空漫游》(2001:A Space Odyssey)到2015年的《复仇者联盟:奥创纪元》(Avengers: Age of Ultron)，科幻小说写作和流行电影都对人工智能(AI)进行了推测，人工智能超越了创造者的期望，摆脱了他们的控制，最终战胜并奴役了人类，或将人类作为灭绝的目标。在6月5日回归的AMC科幻剧《人类》中，人类和人工智能之间的冲突是主角和主角。

2、在Synths发现自己不仅在为基本权利而战，也在为生存而战，与那些认为他们不如人类、是危险威胁的人作斗争。即使在现实世界中，也不是每个人都准备好张开双臂欢迎人工智能。近年来，随着计算机科学家不断突破人工智能的极限，科技领域的领军人物警告人工智能可能对人类构成的潜在危险，甚至暗示人工智能的能力可能会毁灭人类。但为什么人们对人工智能的概念如此不安呢?

3、在Synths发现自己不仅在为基本权利而战，也在为生存而战，与那些认为他们不如人类、是危险威胁的人作斗争。即使在现实世界中，也不是每个人都准备好张开双臂欢迎人工智能。近年来，随着计算机科学家不断突破人工智能的极限，科技领域的领军人物警告人工智能可能对人类构成的潜在危险，甚至暗示人工智能的能力可能会毁灭人类。但为什么人们对人工智能的概念如此不安呢?

4、埃隆马斯克(Elon Musk)是引起人们对人工智能警觉的知名人士之一。2017年7月马斯克在全国州长协会(National Governors Association)的一次会议上对与会者说：我接触到了非常前沿的人工智能，我认为人们应该真正关注它。一直在敲响警钟，但在人们看到机器人在街上杀人之前，他们不知道该如何反应，因为它看起来太空灵了。早在2014年，马斯克就把人工智能贴上了“我们最大的生存威胁”的标签，并在2017年8月宣布，人类面临的人工智能风险更大。3月14日去世的物理学家斯蒂芬·霍金(Stephen Hawking)也表达了对恶意人工智能的担忧。他在2014年告诉BBC，全人工智能的发展可能意味着人类的终结。

5、同样令人不安的是，一些程序员——尤其是麻省剑桥麻省理工学院媒体实验室(MIT Media Lab)的程序员——似乎下定决心要证明人工智能是可怕的。麻省理工学院(MIT)计算机科学家在2016年推出了一种名为“梦魇机器”(Nightmare Machine)的神经网络，它将普通的照片变成了令人毛骨悚然、不安的地狱风景。麻省理工学院(MIT)的一个名为“雪莱”(Shelley)的人工智能组合，在论坛上发布了14万篇关于Reddit用户在论坛上发布的恐怖故事。感兴趣的是人工智能如何诱发情感——在这个特殊的案例中是恐惧。

6、消极情绪对AI通常可以分为两类：认为人工智能将成为有意识和寻求摧毁我们，认为不道德的人将使用人工智能用于邪恶的目的。人们害怕的一件事是，如果超智能的人工智能——比我们更聪明——变得有意识，它会把我们当作低等生物，就像我们对待猴子一样，那当然是不可取的。然而，对于人工智能将发展意识并推翻人类的担忧是基于对人工智能的误解，温伯格指出。人工智能在由决定其行为的算法定义的非常特定的限制下运行。一些类型的问题很好地映射到人工智能的技能集合，使得人工智能的某些任务相对容易完成。但大多数事情都与此不相符，也不适用。

7、这意味着，虽然人工智能可能能够在精心划定的边界内完成令人印象深刻的壮举——比如玩大师级别的象棋游戏或快速识别图像中的物体——但这正是它的能力的终点。人工智能达到意识——在这一领域的研究绝对没有进展，我不认为这是我们在不久的将来。另一个令人担忧的想法是，不幸的是，一个肆无忌惮的人会利用人工智能来产生有害的原因，这是很有可能的，温伯格补充道。几乎任何类型的机器或工具都可以根据用户的意图而使用，无论其用途是好是坏，而使用人工智能武器的前景肯定令人恐惧，并将受益于严格的政府监管。

8、或许，如果人们能抛开对敌意人工智能的恐惧，他们会更愿意承认它的好处。例如，增强的图像识别算法可以帮助皮肤科医生识别出有潜在癌变的痣，而自动驾驶汽车有一天可以减少车祸死亡人数，其中许多是人为失误造成的。但在自我感知的人工智能的“人类”世界中，对有意识人工智能的恐惧引发了人工智能与人之间的暴力冲突，人类与人工智能之间的斗争可能会继续展开，并升级——至少在目前这个季节是如此。