分享到 微博 QQ 微信

细思极恐!我们真正的麻烦来了

天天说钱新媒体创始人 董事长 刘晓博 2017/08/03 11:52 42438
IT   
细思极恐!我们真正的麻烦来了
©视觉中国
"两台智能机器人突然摆脱了人类的控制,开始用自创语言对话,全然无视程序员下达的指令。由于情况失控,研究人员只得终止人工智能系统的全部活动。"

来源:刘晓博


据媒体最新披露:几天前,在Facebook的人工智能实验室里,出现令人震惊的一幕:


两台智能机器人突然摆脱了人类的控制,开始用自创语言对话,全然无视程序员下达的指令。由于情况失控,研究人员只得终止人工智能系统的全部活动。


据新华社昨天的新闻通稿,Facebook事后公布了聊天机器人“鲍勃”和“爱丽丝”的对话节选(直译)。


鲍勃说:“我能能我我所有事其他。”


爱丽丝说:“球(复数)有零对我对我对我对我对我对我对我对我对。”


报道称,研究人员起初对机器人用自创语言聊天一事感到困惑,但之后他们发现,机器人其实是在用一种更复杂的方式来处理手头任务。


Facebook的人工智能研究人员杜鲁夫·巴特拉认为,就像有时人们会“抄近道”用行话对话、以便快速解决问题一样,人工智能机器人也会自创语言,做类似的事。


这的确是一件细思极恐的事件,向我们揭示了未来人工智能可能存在的巨大风险。


以前,这种场面我们只在好莱坞大片里看到过——机器人通过自我学习,摆脱了人类控制,开始统治地球、奴役人类。人类则被打入万劫不复的深渊,被自己创造出来的怪物所统治。


反映人工智能前景的科幻短片《崛起》


在2017年的这个7月之前,我们看到的人工智能都是严格被人类控制的,按照人类预期的方式运作。但随着科技的进步,机器人竟然开始自创预言,这的确是令人非常震撼的。


那么,当未来机器人的拥有自我学习、沟通、进化能力之后,他们会不会产生类似人类的复杂感情,也会有尊严、悔恨、嫉妒和复仇?如果有,那么机器人的确能干出人类意想不到、难以控制的事情。


就在此次Facebook关闭人工智能实验室之前,Facebook的老板扎克伯克还跟特斯拉和SpaceX的老板埃隆·马斯克发生过一场辩论,扎克伯格认为人工智能是美好的、值得期待的,而全球公认的科技奇才埃隆·马斯克则认为人工智能是人类文明的威胁。


现在,扎克伯克被自己的实验室“打脸”了!


即便在人工智能方面存在巨大的分歧,但无人能阻挡这个时代的快速到来。百度在被阿里、腾讯甩开之后,已经拼全力豪赌人工智能。


中国官方也在7月8日发布了《新一代人工智能发展规划》,在这个规划,有这样一些表述值得我们高度关注:


1、人工智能发展进入新阶段……呈现出深度学习、跨界融合、人机协同、群智开放、自主操控等新特征。


2、人工智能是引领未来的战略性技术,世界主要发达国家把发展人工智能作为提升国家竞争力、维护国家安全的重大战略,加紧出台规划和政策。


3、人工智能是影响面广的颠覆性技术,可能带来改变就业结构、冲击法律与社会伦理、侵犯个人隐私、挑战国际关系准则等问题,将对政府管理、经济安全和社会稳定乃至全球治理产生深远影响。在大力发展人工智能的同时,必须高度重视可能带来的安全风险挑战,加强前瞻预防与约束引导,最大限度降低风险,确保人工智能安全、可靠、可控发展。


也就说,以后的战争可能是机器人之间的战争。


以后的婚姻,可能是人和机器人之间的婚姻,人类还能顺利繁衍吗?


以后的主要工作岗位,可能实现机器人对人的替代……


到了那个时代,机器人要不要有国籍、民族、宗教和家庭的身份?


机器人的广泛使用,会不会让财富更加失衡,失业率飙升?


掌握了大量机器人的富豪,会不会发动政变控制政权?


……


当然,最恐怖的是——机器人会不会反过来控制、奴役人类?


没有人说得清楚,大家都担心自己落后。最终,人工智能时代将不可避免地全面到来。


Facebook实验室里令人震惊的一幕向我们预示着——机器人将拥有独立思考和进化的能力,他们将产生自己的语言,最终很有可能把人类看做是一群傻瓜,低智商的物种……


(编辑:孙涵宇)


版权声明:本文由作者授权或独家投稿给环球老虎财经发表,并经环球老虎财经编辑。转载此文章须经作者同意,并请附上出处(环球老虎财经)及本页链接。

举报
相关资讯
请选择举报类型 举报描述: 提交
谢谢反馈!