强AI发展之路：人工智能双刃剑最好别砍到你

人工智能一词在2016年走入公众视野。既然世界各地的人们都开始谈论它，那么是否还有必要在此再将之讨论呢？有关AI的话题总聊不够，虽然许多聪明人士认为强AI潜在的价值将会是人类历史上最具革命性的发展成果，但与此同时AI太过强大所带来的风险也引起人们的担忧。

如今我们已正式步入2017年——有人将之称为AI发展的临界点，或许是时候让我们来严肃探讨一番了。

强AI之路

AI有程度之分。目前世界上的AI水平还是低级的的弱AI（Artificial Narrow Intelligence，ANI）。无论是智能手机里的导航地图，或是前段时间放出大新闻的机器翻译。我们正不断努力发展成强AI（Artificial General Intelligence，AGI）。弱AI只能执行简单任务，强AI能够达到与人类持平的智能水平，可以解决更多问题。强AI之后是超级人工智能（Artificial Super Intelligence，ASI），AI真正的威力将在此展现。

在从弱AI到强AI的路上，人类已经努力了很长时间，至今没人敢说准最终会在什么时间实现。有一个共识认为强AI应该会在未来20～30年实现。不过机器学习的发展可能会让这个时间缩短。

学习之学习

“机器学习”是指通过大数据训练和少量的人工反馈，让计算机自学掌握特定技能的过程。机器学习的概念已经提出了几十年，得益于近几年计算机处理能力和信息积累的增加，机器学习在最近迎来成长。

从亚马逊的智能推荐到Facebook的人脸识别，几乎当下所有科技公司的产品都基于机器学习打造。目前谷歌是该领域的领跑者，谷歌的翻译工具、数字地图和搜索引擎中都有机器学习的应用。

2016年最大的机器学习新闻当属AlphaGo了。这个由谷歌团队打造的AI程序在举世瞩目的围棋人机大战中以4比1的总比分战胜韩国围棋大师李世乭。这是一个里程碑式的事件。围棋以其复杂性著称，围棋步骤的绝对数量比宇宙的原子数还多。

因此不可能以传统的逻辑程序设定每一步的走法，这要求AlphaGo必须拥有一种类人的直觉。虽然很久以前就有计算机程序在国际象棋上战胜人类，但两次胜利的意义不可同日而语。

机器学习应用于AI开发，将形成一个递归循环：程序具有自己学习的能力，并逐渐变的更加强大。其智能水平将呈指数增长。许多人因此表达了AI失控的担忧。在指数发展的前期，AI可能需要十年或更长时间才能达到接近人类的水平，但随后从强AI到超级AI，可能只要几个月甚至几星期就完成了。

这将远远超过人类的适应速度——人类用了几百万年才发展成为地球的主宰者，而今可能在几周之内就被自己的创造物超过了。情况紧迫如此，让人们不得不慎重思考AI的发展。

AI终结人类的方式

长远来看，发展AI对人类意味着什么呢？其实没人能给出肯定答案。超人工智能可能是人类的巨大威胁，也可能作为巨大力量为人所用。关于人类与AI可能爆发的冲突，好莱坞在科幻片中描绘过无数次了。AI研究人员担心的倒不是真的会出现那种人性的冷血杀手屠杀人类。研究人员更担心AI会因其价值观与人类不同而对人类的诉求冷漠以对。比如一个智能水平超出我们想象的AI可能不觉得有必要保证人类的生存，就好比人类总以自己的意愿行事，而将蚂蚁这样的低等生物认作无关紧要。

那就让我们防患于未然，从建造AI的一开始就设定其不能伤害人类。但即使这样也不能保证一个稳妥的未来。危机论者仍然看到发展AI的恶果：自工业革命以来，资本生产和消费构建了现代人类社会，人们工作换取薪水，然后用薪水换取商品。虽然这个系统千疮百孔，但过去几个世纪一直运行着。当机器能取代人类承担所有工作，人的经济价值不复存在。

这并非空说无凭，就拿自动化机器的普及来说，自动化加上其他市场力量——比如全球化——已经加剧了人类社会的不平等。一些工作岗位被机器淘汰，工人失业，甚至引发政治动荡。对此，有种亲科技的看法是：技术淘汰旧岗位，又会带来新的工作机会。这种观点在过去是否正确尚且可疑，在未来它肯定不成立。一些研究表明，照自动化和AI目前的发展速度，世界上一半的工作都将在20年内消失。这些被机器取代的工作不仅仅是低技术含量的苦工，像新闻撰写和写歌填词这样的工作可能也难以幸免。已经有机器被训练撰写新闻稿和谱曲。

后资本主义

面对全民失业潮的窘境，有人提出“普遍基本收入”的解决方案。简单来说，就是政府利用机器生产的巨额财富为人民提供足够的钱，保障日常生活。失业不要紧，政府出钱养大家。这可以看作是升级版的国家福利制度。在此情况下，个人仍然可以寻求工作——为了寻找意义或更好的生活标准，但那是个人的事。

“普遍基本收入”方案得到广泛支持。一些试点计划表明这可能是一个可行的方案。它也可以保障当前资本主义体系的灵活性。对许多老牌福利国家来说，这种方案也是自然而然的选择。不过仍然存在许多问题，比如成本的考虑。但如果自动化能够大大降低生产成本，并不需要再设立形式上的工作。这么一来实现人人康乐的社会的可能性比以往任何时候都高。

在一个快速变化的世界中保护人类，普遍基本收入策略似乎是一个还不错的方案。但当AI发展到超级人工智能的水平时，事情仍然难以想象。若超级AI比较仁慈，它可以在气候变化、医疗等各个方面造福人类。所有人最终生活在一个完全富足的世界，收入和消费的概念都将因过失而被淘汰。资本主义经济奋力发展的最终后果竟然是消灭了自身，这是多么讽刺啊。