什么样的人工智能让你恐惧?

异形系列《契约》看了吗?尽管在国内票房不高,但是是一部非常值得观看的影片,探讨了哲学,道德,人工智能的分歧。在影片的一开头,人工智能大卫(David)与他的创造者(father)彼得伟伦一段深意对话,令人沉思许久。

大卫:“我是谁?”

伟伦:“你是我的儿子,我是你的创造者。”

伟伦:“你叫什么名字?”

大卫,看着米开朗琪罗的话说:“David。”

大卫:“如果我你创造了我,谁创造了你?”

伟伦回答,他也在寻找答案,其实就是不知道。

大卫:“请允许我思考片刻。你创造了我,我服务与你,但是你会死,而我不会。”

对话到此,伟伦没有回答大卫,用命令的口气,让大卫给他到一杯茶,在此大卫犹豫了一下,于是伟伦又重申了一遍,大卫走到伟伦身边倒了茶并递给他。

片头在此戛然而止,大卫的问题也许是未来人工智能的疑问:“为什么我要侍奉比我弱的人?”而伟伦命令的口气,却是警告人工智能,我能够控制你,你得听我的。电影的结果是,大卫学会了做梦,进化了生物的本能,抹杀掉威胁自己和妨碍自己目标的生物,不断地探索完美生命创造过程的奥秘。

随着人工智能技术的不断发展,大部分认为现阶段人工智能的可怕只停留在想象阶段,根据这几十年科技发展的经验,认为科技是人类思想的产物,机器一直扮演着人类的生产工具的角色。未来机器也可能只停留在生产工具阶段,最多可能是人机结合。认为担心人工智能未来会抢人类的饭碗属于多虑。

在近期乌镇互联网大会上,马云说,第一次技术革命导致了第一次世界大战;第二次技术革命导致了第二次世界大战,第三次技术革命,也会导致第三次世界大战,只不过,这场战争是人类携手对抗疾病、贫穷和气候变化的战争。人类应该相信年轻人而不是相信武器,应该拥抱技术,而不是害怕技术会冲击昨天的既得利益和习惯性的思考。

换而言之,马云认为害怕人工智能技术发展的,没有什么依据可言。因为只要人类使用的技术工具能够解决人类的基本问题,人类就可以找出其他的事情来做。

但是,科技发展的速度越来越快,快到已经让人目不暇接,超过了人类能够处理科技的速度。用来描述科技变化速度的词语很多,比如摩尔定律,或者指数级增长。但是人的大脑却不能以摩尔定律的速度或指数增长的速度变化。所以担心是必然,毕竟威胁整个人类物种的繁衍。

究竟机器人最终会反抗他们的创造者吗?

哈佛大学人类未来研究的创始人,哲学家尼克.博斯特罗姆用了三个词描绘计算机的内部思想“满足他们的目标”。

大致意思是,大部分的风险并在于机器会变得邪恶或者憎恨人类,而是它们对人类漠不关心且在追求它们自己的目标时,人类会遭受一些负面影响。超级智能的人工智能,它唯一的目标就是尽可能多的制造回形针。为了达成这个目标,计算机使用的手段可能会颠覆人类社会所认知的道德判断。甚至使用人类身体的原子把他们变成回形针。

换个方式理解是,人类存在的价值是作为计算机提供原子材料,人类就像计算机的圈养生物,类似人类圈养牲畜、种植果树,目的是为了满足自己的生存、生活的需要,大部分人不会考虑自己的行为是否真的邪恶或是道德,基本上觉得理所应该。如果称这种行为是因果循环,会不会因为人工智能的出现,人类变成了被圈养的高级动物。

被认为是世界上最聪明的科学家之一霍金教授,提出关于人工智能他担忧的地方是,创造能够思考的机器是对人类生存的一种威胁。就像开头电影里描述的生化人大卫一样。

不恐惧人工智能的到来,理由不是因为不相信会有超级人工智能的出现,主要是因为可能人类阻止不了人工智能时代的到来,所以恐惧就成了多余的事,许多事情只有到来那天,可能才会出现解决的办法。

为了想象的恐惧,而停止不前,似乎显得更加愚蠢。

©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 160,026评论 4 364
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 67,655评论 1 296
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 109,726评论 0 244
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 44,204评论 0 213
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 52,558评论 3 287
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 40,731评论 1 222
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 31,944评论 2 314
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 30,698评论 0 203
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 34,438评论 1 246
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 30,633评论 2 247
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 32,125评论 1 260
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 28,444评论 3 255
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 33,137评论 3 238
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 26,103评论 0 8
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 26,888评论 0 197
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 35,772评论 2 276
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 35,669评论 2 271

推荐阅读更多精彩内容