知乎日报

每日提供高质量新闻资讯

头图

你是否支持人工智能的发展?

Pixabay / CC0

田渊栋,Facebook 人工智能研究院研究员 / 研究经理,卡耐基梅隆大学机器人系博士

谢邀。

对于是否要发展人工智能,这不是支持不支持的问题,这是历史的潮流和进化箭头的指向,是无法逆转的。总会有人做,一国不做,别国会做,要是全地球人都达成协议不做,等到地球哪天不宜居就来不及了。请注意这个时间并不长,我们很幸运,之后的几百万年里可能会有大范围火山喷发,超新星带来的伽马射线暴,小行星撞击地球,冰川时期,太阳变亮等等事件,走错一步,可能就要再花几十万或者几百万年重来。

马一龙是对的,走出去是重要的。而为了走出去,没有更好的科技是不可能的。我们今天跑 GPU 烧掉那么多能源,为的是将来可控核聚变的成功,为的是让地球终于成为 I 型文明。而这些,靠回归田园生活,靠节流,靠艰苦朴素是没有出路的,靠万千科研人员用尽毕生精力,一点一点地手调参数手工设计也是不行的,得要不停地自动化再自动化才可以,而 AI 就正在向这个方向前进。

我一直很同意《未来简史》的观点,即意识和智能是可以分离的。AI 可以做很多人做不到的事情,但至少从目前看来,研究功能更强大的 AI 未必一定要让它有自身存在的目的和意义。监督学习人给 AI 标签信息,强化学习人给 AI 制定奖励函数,虚拟环境和任务,AI 的目的是负责自动寻找并且输出更好的解。两个 AI 相互对话产生人类不理解的语言?这只是为了完成一个特定任务所找到的另一个解而已(这是我们大组的工作,原文见 ArXiv:https://arxiv.org/abs/1706.05125)所以至少目前为止,看不到任何 AI 有产生自我意识的可能。

与其担心 AI 与人类的对立,担心突然冒出一个全知全能的 AI 统治人类,我觉得将来 AI 和人类的融合是更为可能的。回顾历史,人工智能从来不是什么天上掉下来的新东西,计算器代替人脑算加减乘除,密码锁没有正确密码不能打开,八音盒拧上发条会自己唱歌,这些都是非常初级 AI 的体现,但我们早已耳濡目染,再没有一惊一乍了。下一代人,也会把刷脸开门甚至是坐飞船去火星打工当成理所当然。我们往往把成熟的科技当成空气和水,在每日的重复中被忽视;另一方面,不成熟的科技在科幻的渲染下变成过于神秘了。而当科技成熟了,它们就又变成新的空气和水,在我们喜新厌旧的视野中消失了。这种渐进式的发展和相互融合,最终让这种概念上的对立不复存在。而身为科技工作者的我们所要肩负的使命,就是不停地推动最前沿的发展,对全世界开放自己的研究成果,正视当前的问题并解决之。

这些都不是未来才会发生的事情。事实上,我们已经在这条道路上大步向前了,没有智能手机,相信大家都很难过日子,从这点上看,智能手机难道不已经成为了人类的一个可替换的器官了么?以后试想要是有芯片,植入大脑就可以让自己聪明一倍,谁不会去用它?要是有强健且便于携带的外骨骼,谁不想去换一个?到时候谁是 AI 谁是人的边界开始模糊。

最后的最后,人就是 AI,AI 就是人,所有 AI 的决定,也即是人的决定。你说 AI 绑架了人也好,说人参考了 AI 的意见也罢,都无所谓了。因为我们当下做的每个决定,也有肚子里细菌的功劳。

----------------

另外说一下风险。之前说了,现在 AI 的水平还远远没有达到所谓“威胁人类”的程度,作为在一线的科研人员,我们每天的痛苦是觉得 AI 实在太笨了,各种花式犯蠢,最后想来想去,还是因为自己笨啊(!)但另一方面,一直以来总有人说 AI 有多厉害,AI 可以一下子解决现在的很多问题,AI 要被限制,这个论调前两年一直有,现在好些了。

长远来说,AI 是重要方向,会有很大的收益,但它是缓慢但持续地发展的。但另一方面,人往往恨不得投资马上就会有回报。往往高估 AI 一年内能做到的,却低估 AI 十年二十年内可以做到的。这种期望和现实的不均衡性,会让 AI 在被吹爆和被踩爆之间反复跳跃,等到大家都怀疑 AI 吹的牛不能实现,过于悲观而失去解决难题的信心,那就不好了。历史上这是有深刻教训的,我们现在也看到了,AI 还没让人下岗,搞 AI 的人先下岗——那是因为前两年我们太过相信它了。

我们能做的,就是广泛科普和开源,大家都明白 AI 是怎么回事,大家都把它当成实实在在的基础技术,明白它的优缺点,不吹牛也不贬损,那它就会一直都在。