首页 > 新闻中心 > 掌酷科技 > 互联网 >

人类认识 HAL 9000 的第 50 年,AI 恐惧如何从科幻作(3)
2018-05-20 19:31 好奇心日报

AI 占据上风——或完全推翻人类,或掌控大公司/社会运作;

人类占据上风——往往是在一次短暂的事故或 AI 反叛后,人类采取了一切措施保证自己的生存、限制 AI 发展。此类延伸出的分支包括 “AI 服务于人类”、“AI 与人类结合”以及 “AI 平权”;

个体 AI 的觉醒——在外部环境较为中立平和的情况下,某一个 AI 个体觉醒了意识,故事将着重 ta 对内心的探索,比如理解自身存在的价值和目的。最终 ta 可能会偏向“弗兰肯斯坦情结”走推翻人类路线,也可能去寻求人类社会的接纳和理解,与人和平共处。

消灭人类、施行机器暴政的 AI 不仅仅有天网,以欺骗人类为最大爱好的 AI 也不止是《传送门》里热爱蛋糕和唱歌的 GlaDOS。实际上,最早写“邪恶”机器统治人类的小说,出版时间大概比你想得早。

1909 年发表于《牛津与剑桥书评》的科幻短篇《机器停了》(The Machine Stops)描述了一个后末日时代。人类“失去了”居住在地上的能力,被“机器”安排住进了地下的标准隔间,平常通过即时消息和视频通话进行信息交换,所有的生理和精神需求都由机器满足,甚至有宗教 “Technopoly”(技术独裁)兴起,拜机器为神,忘记是人类创造了机器。但是在机器出错后,已经丢失了修理机器知识的人类,不得不眼睁睁看着机器的崩溃所致的地下居住者灭亡。

同名改编舞台剧剧照

和 1818 年工业革命背景下诞生的首部科幻小说《弗兰肯斯坦》类似,出现在“电气时代”的《机器停了》,俨然是一部复古的、内在警示读者机器威胁的作品,堪称类别开创者。但是它更超前的地方在于提出了一个问题——“为了让机器成为我们所依赖的唯一,人们愿意做到什么地步”。它预言了一副人类心甘情愿把自己献给机器法则的未来图景,预言了这种环境下人类与自己的身体、他人、社会文化哲学的关系。

当代网络用户对赞、关注数、自拍、滤镜的迷恋,相当于是把自己全权交给了社交网络设定的规则,“靠科技生活,却从不抬头看周遭”。网站的算法和广告盈利模式决定了我们面对的信息流、创造的内容和与彼此沟通的方式,个体意识被降低,亿万用户每天都在迎合着机器、按它们的法则行事,这也让它越来越强大,直至可以作恶的地步(假新闻、仇恨传播、GamersGate 或新纳粹崛起)——这和 Technopoly 并没有本质上的区别,因为人类已经献出了自己的独立思想。

个体意识被牺牲以迎合机器社会,是比天网更现实也更严重的威胁。马斯克的 OpenAI 表面上是为了防止 AI 研究走偏终至毁灭人类,但其商业动机同样明显,大小公司加入这个非营利性的开放组织多是为了更方便地分享数据,以联盟的方式去对抗 Google 和亚马逊等巨头,而我们在短期内也不大可能看到 AI 暴走。但是机器社会发展的方向却很可能是 Kevin Kelly 所描述的那样——决策依赖于集体意识拥有压倒性优势的蜂群思维(Hive Mind),个人意志被抹杀,成为了自己所创造机器的一部分。

标签: 机器人 人类 阿西莫夫 克拉克 机器
0

上一篇:理发店越来越不拘一格,舒服整洁是个趋势|这
下一篇:没有了
官方微信公众号:掌酷门户(wapzknet)

首页 > 新闻中心 > 掌酷科技 > 互联网 >
相关资讯

新闻热点
精选美图


客户端合作免责友链
Copyright 2009-2017 冀ICP备09035849号-1
掌酷门户 版权所有 冀公网安备 13092302000152号