|财经号

我们会被人工智能奴役么?

格隆汇·港股那点事

|

作者:格隆汇·i瓦力

一:AI时代的恐惧

前段时间媒体上一直传说着一个Facebook人工智能部门的恐怖故事。

大致是FB员工在引导两个AI自己聊天,一开始还是正常的聊天,屏幕上显示的字还是普通我们读得懂的英文。但是聊着聊着,发现两个AI发明了一种新的语言,而且这种语言根本不是人类的语言,更重要的是两个AI仍然聊的不亦乐乎,并且无视程序言下达的命令。最后FB停止了这一项目的研究,原因是“担心可能会对这些AI失去控制”。

当然只能算是一个恐怖故事,因为实际上这只是一个AI的bug被媒体不断放大了而已。

但是我知道很多人在看到这样的新闻时,后背不断发凉,因为感觉这样的日子貌似并不遥远。

如果说去年AlphaGO击败了李世石让大家还心存侥幸,那么今年击败柯杰,则最终向人们传达了这么一个信息: 人类,已经不是这个星球上最聪明的“物种”了。clipboard.png

而在人类过去几万年不断征服自然的过程中,我们深刻的明白:不是最聪明,意味着被消灭,或者像动物园的狮子那样,被奴役。

我认识一个朋友,是从一个大投行出来,后来去了一家投AI的PE机构。但是之前再次见他,他已经辞去了所有工作,反正之前赚的钱也够了,现在就专门负责游山玩水。问及原因,答:AI会消灭人类,并且我们终将无力反抗,我只是及时行乐而已。——这是真事!

对未知的恐惧是人类的天性,过去的先人,对气候充满恐惧,因为不知道什么时候爆发下洪水就把家淹了,但是能做的只有祈祷。现在我们也对AI也充满了看恐惧,不知道哪天就把人类给KO了。

曾经讨论外星人文明和人类文明有个经典的比喻,是蚂蚁和高速公路的比喻。这个比喻对应到AI问题也同样适用。

大致的意思人类建造一条高速公路路,我们会征求拆迁户的意见,但我们绝对不会去征求路边蚂蚁的意见,因为我们做的事超出了他们的理解范围,也没想过蚂蚁能够理解。如果因为建了一条道高速公路而捣毁了一个蚂蚁窝,我们也从来不会同情,也不会有哪怕有一丝的道德负罪感。

加载全文
财经

全部评论 登录 可发布评论哦!
加载更多

了解更多

上财视,带你赚钱带你飞