人工智能的隐患

目前，人工智能(AI)或人工智能(artificial intelligence)很少不在新闻中出现，各种各样的说法都说它将如何改变世界:要么是一项让世界变得更美好的革命性技术的地方,或者一台超级智能计算机将会接管一切。那么人工智能有哪些风险呢?在伦敦皇家学会举办的“你和人工智能”活动上，Georgia Mills采访了人工智能企业家Vivienne Ming。

Vivienne -还没有人发明出一种能像我们一样思考的技术。了解这个世界。如果有足够的处理能力，人工智能不会对英国退欧有自己的看法，也不会更喜欢咖啡而不是茶。这是不存在的。事实上，任何说他们知道它什么时候会到来的人，本质上是在说他们可以预测一个真正新颖的发明，一个还没有人发明的发明，什么时候会发生。所以可能是明天。我很怀疑。也许是20年后，也许永远不会发生。

我不认为有任何理论上的理由认为我们不会在某一天拥有非常智能的人工智能，但它不会很快到来，因此它不是一种可以接管世界的技术。我认为我们真正害怕的是人，以及人们用他们手中强大的工具所做的事情。人工智能确实可以做一些可怕的事情;自主武器，专制政权利用人工智能来维持权力。这些是我们真正需要担心的事情。

乔治亚-当人们想要使用机器学习或人工智能来解决问题时，哪里会出错?

Vivienne:从我想解决问题的角度来看，我研究人工智能已经很长时间了。问题是我的工作的成功来自于对问题的深刻理解。当我还是第一家使用人工智能进行招聘的公司的首席科学家时，我做的第一件事就是阅读了100年来关于如何成为一名优秀员工的研究论文。然后我们建立了人工智能来寻找人们的这些品质。相比之下，许多臭名昭著的案例，比如最近的亚马逊，建立了一个非常复杂的深度神经网络，并将其用于亚马逊的招聘历史。你猜怎么着?它不想雇佣女性。事实证明，被亚马逊聘用往往意味着你是一个男人。这在一起经常发生。所以人工智能学会了把这两件事联系起来。

这可能说明了亚马逊的一些不愉快之处，但它也说明了把人类历史上一些最具挑战性的问题交给亚马逊的天真之处:谁应该获得贷款?他们应该雇佣谁?我们如何消除司法中的偏见?谁能进入我们的国家?

所有这些事情现在都交给了一些刚从大学毕业的年轻人，他们学会了做一些极具挑战性的事情。他们已经学会了如何构建和调整元参数和深度神经网络，并构建这些复杂的模型。但是，最终，所有的人工智能，就像今天存在的那样，都是一种工具。我认为这是人工智能最直接的问题之一。以为它能解决我们的问题，而事实上，它所能做的只是把我们自己的道德选择反射回我们的脸上。

乔治亚-你认为这会使社会变得更公平还是更不公平?

Vivienne -根据我对几乎所有技术(不仅仅是人工智能)的经验，一个有趣的事实是，当它第一次出现时，它总是帮助那些最不需要帮助的人。因为像我这样拥有高级学位，生活在精英阶层的人，我们才是真正可以利用它的人。互联网也是如此。教育技术也是如此。事实证明，这对人工智能来说是非常正确的。人工智能加剧了不平等。我们倾向于制造让生活更简单的工具。事实证明，能够最大限度地利用它的人是大公司的员工，对他们来说，让生活更轻松一点就是把工资降至零。

当他们看到人工智能可以做什么时，它可以阅读合同并找到所有漏洞，它可以使用电子表格并分析金融投资中的所有风险，它可以编写代码。它可以做所有这些专家判断，直到现在，这些判断都是人类的专属领域，而且它越来越能比人类做得更便宜、更快、更好。如果你是一家《财富》500强公司的首席财务官，你对此的第一反应可能是:“我们为什么要花钱雇这么多软件开发人员、律师和金融分析师?”我不能解雇他们，但也许我可以用没上过大学的人来代替他们。将它们与人工智能相结合，我们可以创造出比我们过去雇佣的昂贵的大学毕业生优秀80%的东西。”

我们可以做得更好。我们可以做出选择，真正吸引人们进入创意经济，而不是我所说的去专业化。我希望我们能做出这样的选择，因为10年后再说“哦，我的天哪，这是个坏主意!”就太迟了。