很多人想到人工智能（AI）都会感到恐惧。生怕有一天，它们的智慧会超过人类，就像好莱坞大片一样，威胁全人类。
AI真的有这么可怕吗？当AI认为自己的决定，比人类的指令更加高明时，会做出哪些意想不到的事情呢？
继阿尔法狗战胜世界围棋冠军李世石后，又有一场“人机对战”的华山论剑。
AI赌神Libratus在12万手的一对一无限德州扑克比赛中，击败了四名顶尖人类高手，共计领先人类团队176万美元筹码。
Libratus最令人咋舌之处，是它非常善于诈唬对手同时又不被对手诈唬。
一个能在牌桌上诈唬住全人类的AI赌神，你害怕吗？如果未来有一天，一个AI外交官在谈判桌上突然all in时，你跟还是不跟呢？
AI让人细思极恐，已不是什么新鲜事了。
美国问答网站Quora上就有这么一个问题：迄今为止，AI做过最可怕的事情是什么？
回答这个问题的有AI研究员、退休码农、Facebook的实习生、教师、吃瓜群众......答案可谓是丰富多彩。
模拟食人族？
十几年前，他们在探索如何让智能体（Agent）学会社交互动。在一次模拟中，他们创建了两个智能体，“亚当”和“夏娃”。它们知道怎么进食，但不知道该吃什么。
于是给它们创造了一棵苹果树。它们发现吃苹果很开心。除此之外，它们还尝试吃树、吃房子等等。
这个系统里还有另外一个智能体，名叫斯坦。斯坦不擅长社交，经常独处。
有一次，亚当和夏娃正在吃苹果，bug出现了！它俩没吃饱，但苹果没了。这时它们看到斯坦在附近闲逛，于是就把饥饿感与斯坦联系在一起。
不久之后，当苹果再次被吃完时，亚当和夏娃都咬了斯坦一口，斯坦被吃了！
默认情况下，每个智能体的质量是1.0，每咬一口就减少0.5，所以两口下去，斯坦就变成了0.0。斯坦消失了。
它可能是虚拟同类相残的第一个受害者。
让人隐隐不安的 俄罗斯方块
CMU博士Tom Murphy创造了一个AI，能通过观察得分来学会玩NES（任天堂红白机）游戏。原理很简单，做对就得分，进行不断尝试。
这个AI学会了很多打游戏的技巧和策略，甚至一些人类都不知道的bug，几乎可以搞定所有的游戏。
Tom让这个程序玩俄罗斯方块。方块的出现是随机的，所以AI也无法很好的进行长远规划。
在一次游戏时，眼看就要结束，AI做了一个令人毛骨悚然的举动：它没有让game over，而是按下了暂停按钮，一直暂停着不动了！
Tom解释，AI认为当时的情况下，唯一的应对举措就是不玩了。
没错，按下暂停键不再继续，那局永远也不会输。不知怎的，这件事让人隐隐不安。
弗兰肯斯坦？（僵尸不死军团）
这个故事发生在不久之前。下面的引用，都是描述Facebook开发的谈判机器人。
“Facebook的工程师惊慌失措，赶紧拔掉了AI的电源插头”
“人类真的创造出弗兰肯斯坦？”
——让AI“创造了语言”的Facebook研究员怒怼媒体报道“不负责任”。
这个研究是想开发一种能以自然语言进行多问题谈判的AI系统。对话系统的复杂架构被经过训练的RNN网络取代，对话策略的训练采用了强化学习。
不过在这个AI尝试互相学习的过程中，产生了一些看起来“令人毛骨悚然”的对话。
杀死竞争对手！
美国某大学（应该是MIT）举办了一场机器人大赛：设计一个自主思考并执行策略的机器人，把羊（机器羊）抓到自己的羊圈，抓得最多者获胜。
比赛开始，机器人开始疯狂的捉羊。但让人百思不得其解的是，有个机器人只捉了一只羊，就关上了羊圈的门。
随后，可怕的事情发生了。这个机器人开始摧毁其他的参赛对手。它的策略是：根本不用捉羊，把对手消灭掉就赢了。
细思极恐……
天网？
诺斯洛普·格鲁门公司（Northrop Grumman）曾经创造了一架无人机，代号X-47B（Salty Dog 502-咸狗502），2011年2月首飞。
与其他无人机不同，这架无人机基本不需要人类干预，主要靠AI系统决定。
X-47B成为历史上第一架成功在航母上着陆的无人机，并在测试期间成功起降了两次。
但第三词准备着落时，意外发生了——无人机没有在舰上着陆，而是选择降落在附近的Wallops岛空军基地。
在AI看来，这个地点降落可能是更安全的选择。也就是说，这个AI认为自己的决定比人类的指令优先级更高。
迄今为止，这可能是最接近天网的东西。这一事件之后，美国海军决定停止资助X-47B的研发。
看了这么多，是不是细思极恐？AI到底有多可怕？当它在人类掌控之外时，到底会引发什么灾难？
当然，我们不用担心。就目前而言，只要正确使用，AI仍是人类的伙伴，能帮助大家提高工作效率，提供生活的便利。
就像云澎智能结算系统，秒结算，不费芯；支持移动支付、一卡通支付、人脸支付；就能解决高校、政府、企事业单位食堂团膳存在的各种问题。
你心动了吗？
