云澎商户管理平台(点击进入)

AI做过哪些让人细思极恐的事?

当前位置:网站首页 > 新闻资讯 > 趣闻
AI做过哪些让人细思极恐的事?


很多人想到人工智能(AI)都会感到恐惧。生怕有一天,它们的智慧会超过人类,就像好莱坞大片一样,威胁全人类。


AI真的有这么可怕吗?当AI认为自己的决定,比人类的指令更加高明时,会做出哪些意想不到的事情呢?



继阿尔法狗战胜世界围棋冠军李世石后,又有一场“人机对战”的华山论剑。


AI赌神Libratus在12万手的一对一无限德州扑克比赛中,击败了四名顶尖人类高手,共计领先人类团队176万美元筹码。


Libratus最令人咋舌之处,是它非常善于诈唬对手同时又不被对手诈唬。


一个能在牌桌上诈唬住全人类的AI赌神,你害怕吗?如果未来有一天,一个AI外交官在谈判桌上突然all in时,你跟还是不跟呢?



AI让人细思极恐,已不是什么新鲜事了。


美国问答网站Quora上就有这么一个问题:迄今为止,AI做过最可怕的事情是什么?


回答这个问题的有AI研究员、退休码农、Facebook的实习生、教师、吃瓜群众......答案可谓是丰富多彩。


Mike Sellers | 企业家,游戏设计师,AI研究员


 模拟食人族?


十几年前,他们在探索如何让智能体(Agent)学会社交互动。在一次模拟中,他们创建了两个智能体,“亚当”和“夏娃”。它们知道怎么进食,但不知道该吃什么。


于是给它们创造了一棵苹果树。它们发现吃苹果很开心。除此之外,它们还尝试吃树、吃房子等等。



这个系统里还有另外一个智能体,名叫斯坦。斯坦不擅长社交,经常独处。


有一次,亚当和夏娃正在吃苹果,bug出现了!它俩没吃饱,但苹果没了。这时它们看到斯坦在附近闲逛,于是就把饥饿感与斯坦联系在一起。


不久之后,当苹果再次被吃完时,亚当和夏娃都咬了斯坦一口,斯坦被吃了!


默认情况下,每个智能体的质量是1.0,每咬一口就减少0.5,所以两口下去,斯坦就变成了0.0。斯坦消失了。


它可能是虚拟同类相残的第一个受害者。


Nitin Gopi | 吃瓜群众,职业未知


 让人隐隐不安的  俄罗斯方块 


CMU博士Tom Murphy创造了一个AI,能通过观察得分来学会玩NES(任天堂红白机)游戏。原理很简单,做对就得分,进行不断尝试。


这个AI学会了很多打游戏的技巧和策略,甚至一些人类都不知道的bug,几乎可以搞定所有的游戏。


Tom让这个程序玩俄罗斯方块。方块的出现是随机的,所以AI也无法很好的进行长远规划。


在一次游戏时,眼看就要结束,AI做了一个令人毛骨悚然的举动:它没有让game over,而是按下了暂停按钮,一直暂停着不动了!



Tom解释,AI认为当时的情况下,唯一的应对举措就是不玩了。


没错,按下暂停键不再继续,那局永远也不会输。不知怎的,这件事让人隐隐不安。


Vasily Konovalov | 软件工程师,ML/NLP研究员


 弗兰肯斯坦?(僵尸不死军团)


这个故事发生在不久之前。下面的引用,都是描述Facebook开发的谈判机器人。

“Facebook的工程师惊慌失措,赶紧拔掉了AI的电源插头”
“人类真的创造出弗兰肯斯坦?”

——让AI“创造了语言”的Facebook研究员怒怼媒体报道“不负责任”。


这个研究是想开发一种能以自然语言进行多问题谈判的AI系统。对话系统的复杂架构被经过训练的RNN网络取代,对话策略的训练采用了强化学习。


不过在这个AI尝试互相学习的过程中,产生了一些看起来“令人毛骨悚然”的对话。



Shay Zykova | ESL教师,来自夏威夷住在俄罗斯


 杀死竞争对手!


美国某大学(应该是MIT)举办了一场机器人大赛:设计一个自主思考并执行策略的机器人,把羊(机器羊)抓到自己的羊圈,抓得最多者获胜。


比赛开始,机器人开始疯狂的捉羊。但让人百思不得其解的是,有个机器人只捉了一只羊,就关上了羊圈的门。


随后,可怕的事情发生了。这个机器人开始摧毁其他的参赛对手。它的策略是:根本不用捉羊,把对手消灭掉就赢了。


细思极恐……


Arun | 市场人员


 天网?


诺斯洛普·格鲁门公司(Northrop Grumman)曾经创造了一架无人机,代号X-47B(Salty Dog 502-咸狗502),2011年2月首飞。


与其他无人机不同,这架无人机基本不需要人类干预,主要靠AI系统决定。


X-47B成为历史上第一架成功在航母上着陆的无人机,并在测试期间成功起降了两次。


但第三词准备着落时,意外发生了——无人机没有在舰上着陆,而是选择降落在附近的Wallops岛空军基地。



在AI看来,这个地点降落可能是更安全的选择。也就是说,这个AI认为自己的决定比人类的指令优先级更高。


迄今为止,这可能是最接近天网的东西。这一事件之后,美国海军决定停止资助X-47B的研发。





看了这么多,是不是细思极恐?AI到底有多可怕?当它在人类掌控之外时,到底会引发什么灾难?


当然,我们不用担心。就目前而言,只要正确使用,AI仍是人类的伙伴,能帮助大家提高工作效率,提供生活的便利。


就像云澎智能结算系统,秒结算,不费芯;支持移动支付、一卡通支付、人脸支付;就能解决高校、政府、企事业单位食堂团膳存在的各种问题。


你心动了吗?