作者：Vauhini Vara 

 来源：网易智能

【网易智能讯7月1日消息】在现代人工智能领域，所有的话题似乎都离不开三位与加拿大大学有联系的研究人员。

第一位是在多伦多大学任教的70岁英国人Geoffrey Hinton，他开创了被称为“深度学习”的分支学科，如今已经成为了人工智能的同义词。第二位是57岁的法国人Yann LeCun，他在上世纪80年代在Hinton的实验室工作，现在在纽约大学任教。第三位是54岁的Yoshua Bengio，出生在巴黎，在蒙特利尔长大，现在在蒙特利尔大学任教。这三个人是密友也是合作者，以至于人工智能领域的人都称他们为“加拿大黑手党”。

深度学习领域知名学者（左起：Yann LeCun，Geoffrey Hinton, Yoshua Bengio, Andrew Ng）

不过，在2013年，Hinton加入了谷歌，Facebook也聘请了LeCun。两人都保持着自己的学术地位并继续教学，而Bengio在蒙特利尔大学建立了世界上最好的人工智能项目之一，他被认为是最后一个学术纯粹主义者。

Bengio不是一个天生的实业家。他举止非常谦逊，有一点驼背，看起来在电脑屏幕前呆了很长时间。虽然他为几家公司提供咨询服务，并且一直被邀请加入其中，但Bengio坚持要追求有激情的项目，而不是那些最有可能盈利的项目。

“你应该注意到了他的志向有多远大，他的价值观有多好，”他的朋友Alexandre Le Bouthillier说，他是一家名为Imagia的人工智能初创公司的联合创始人。“科技领域的一些人忘记了人性的一面，但Yoshua没有。他真的希望这个科学突破能够帮助社会。”

然而，Bengio坚持的观点已经变成了一种孤独的努力。亚马逊、Facebook、谷歌和微软等大型科技公司都在投资或收购新型初创企业，并且吸收大学里的顶尖人才，保证他们在人工智能领域的领导地位。华盛顿大学的人工智能教授Pedro Domingos说，他每年都会询问学术联系人，问他们是否有学生想申请博士后。他说，他最后一次问Bengio的时候，“他说，我甚至在毕业前就已经留不住他们了。”Bengio受够了这种状况，想要阻止人才流失。

2015年9月一个温暖的午后，Bengio和他的四个关系最好的同事在Le Bouthillier蒙特利尔的家中会面。这次会议本来是Bengio多年前成立的技术转让公司的战略会议，但是Bengio对他的领域的未来感到深深的焦虑，他也认为是时候提出一些他一直在思考的问题了：是否有可能创建一个能够帮助创业公司和大学的企业，而不是伤害它们——并且可能对整个社会有益？如果可以的话，那么这个企业能否在这个以科技为主导的世界里具有竞争力呢？

Bengio特别想听听他的朋友Jean-Franois Gagné的观点，他是一位精力充沛的连续创业者，比Bengio小15岁。Gagné早些时候把自己联合创始的公司卖给了一家名为JDA Software的公司；在那里工作了三年之后，Gagné离开了这家公司，成为了加拿大风险投资公司Real Ventures的常驻企业家。在三个小时的会议结束，太阳开始下山的时候，他告诉Bengio和其他在场的人：“好吧，我要制定一个商业计划。

那年冬天，Gagné和他的同事Nicolas Chapados蒙特利尔大学的小办公室拜访了Bengio。

他提议共同创立一家初创公司，为创业公司和其他资源不足的组织以及无力建立自己的AI部门的公司提供人工智能技术。这家初创公司的关键卖点将是，它拥有全球最具天赋的劳动力：它将支持Bengio实验室和其他顶尖大学的研究人员每月为该公司工作几个小时，同时保持他们的学术地位。这样一来，企业就能以很低的价格获得顶尖人才，大学也能留住他们的研究人员，而他们主要的客户将有机会与更厉害的对手竞争。每个人都会受益，除了科技巨头。

1

当Bengio和Gagné开始他们的讨论时，最大的科技公司还没有卷入备受瞩目的AI伦理问题中——关于人工智能在军事和预测性警务方面的有争议的销售，以及种族和其他偏见在产品中的体现——这些问题很快就会给他们带来负面的影响。但即便如此，内部人士也清楚地知道，大型科技公司正在部署人工智能，来扩充他们的实力和财富。

理解这一点需要知道人工智能与其他软件有所不同。首先，世界上的人工智能专家相对较少，这意味着他们可以将薪水控制在六位数；这使得建立一支由人工智能专家组成的庞大团队，对除最富有的公司以外的所有人来说都过于昂贵。其次，人工智能通常比传统软件需要更高的计算能力，这可能是非常昂贵的，而且好的数据是很难获得的，除非你碰巧是一个技术牛人，几乎可以无限制地访问这两者。

Bengio说：“最近以来，人工智能的运作方式有些问题……这使得专业知识、财富和权利集中在了少数公司手里。”更好的资源会吸引更好的研究人员，这将带来更好的创新，带来更多的收入，从而可以继续购买更多的资源。他补充道：“它似乎能够自我壮大。”

Bengio最早与人工智能的接触，预示着大型科技公司的崛起。20世纪70年代，他在蒙特利尔长大，特别喜欢科幻小说，像Philip K. Dick的《Do Androids Dream of Electric Sheep?》。在大学里，Bengio主修计算机工程;他在麦吉尔大学读研究生时，偶然读到了Geoff Hinton的一篇论文。他非常震惊，这让他想起了他小时候深爱的科幻故事。“噢，天呐！这就是我想做的事情，”他后来回忆道。

多年以后，Bengio与Hinton和LeCun一起成为了深度学习领域的重要人物，这一领域涉及被称为神经网络的计算机模型。但他们的研究充满了错误的开始和被挫败的野心。从理论上讲，深度学习是有吸引力的，但在实践中却没有人能使它发挥得很好。“多年来，在机器学习会议上，神经网络都不受欢迎，而Bengio坚持在他的神经网络上不停地工作，”科罗拉多大学的教授Mozer回忆道，“我当时想，可怜的Bengio，他太不入流了。”

在20世纪后期，研究人员开始意识到为什么深度学习效果不佳。训练高水平的神经网络需要比之前更强的计算能力。此外，神经网络需要良好的数据才能学习，而在消费互联网兴起之前，它们还没有足够的数据可以用来学习。

到20世纪末，一切都发生了变化，很快，大型科技公司开始应用Bengio和他的同事们的技术来实现商业上的里程碑：语言翻译、语音识别、人脸识别。当时，Bengio的兄弟Samy也在谷歌工作，他也是人工智能研究人员。Bengio很想跟随他的兄弟和同事一起去硅谷，但在2016年10月，他、Gagné、Chapados和Real Ventures共同推出了自己的创业公司：Element AI。投资该公司的DCVC公司的管理合伙人Matt Ocko说：“在过去的五年里，Bengio在任何人工智能平台上都没有实质性的所有权，除了Element AI。”“他以自己的名誉支持这家公司。”

为了赢得客户，Element AI依赖于其研究人员的明星效应，其投资方的声誉，以及承诺比大型科技公司更能提供个性化的服务。但该公司的高管们也站在另一个角度：在这个时代，谷歌竞争向军方出售人工智能，Facebook曾传出影响选举的丑闻，亚马逊正在吞噬全球经济，而Element AI将自己定位为一个不那么贪婪的、更合乎道德的人工智能公司。

2

从谷歌的员工对其向五角大楼提供人工智能的决定提出反抗，就能看出科技公司在军事上使用人工智能技术的立场已经成为了一种道德的试金石。Bengio和他的联合创始人在早期就发誓永远不会为了进攻的军事目的而建造人工智能。

但今年早些时候，韩国研究型大学韩国科学技术院宣布，它将与韩国大型企业集团韩华（Hanwha）的防务部门合作，建立军事系统。尽管Element AI与韩华有联系，但Bengio还是签署了一封公开信，抵制韩国研究所，直到它承诺“不会开发不由人类控制的自主武器”。Gagné还谨慎地写信给韩华，强调Element不会与研发自主武器的公司合作。Gagné和科学家们很快得到了保证：韩国科学技术院和韩华不会这样做。

自主武器既不是人工智能面临的唯一道德挑战，也不是最严重的挑战。纽约大学教授Kate Crawford主要研究人工智能的社会影响。她写道，对于人工智能会成为未来的威胁的所有“苦恼”，分散了人们对现有问题的注意力，因为“性别歧视、种族主义和其他形式的歧视正在被植入机器学习的算法中”。由于人工智能模型是根据工程师提供的数据进行训练的，因此数据中的任何偏差都会对一个给定的模型带来不好的影响。

Tay是由微软在Twitter上发布的AI聊天机器人，目的是了解人类的对话方式，它很快就开始发表种族主义言论，比如“希特勒是对的”。微软表示道歉，并将Tay撤销，并表示正在努力解决数据中的歧视问题。谷歌的一个人工智能功能是根据自拍照来帮助用户找到他们对应的艺术角色，而这一功能根据刻板印象把非裔美国人匹配成奴隶，把亚裔美国人匹配为斜眼睛的艺伎。这可能是由于人工智能在训练时过度依赖于西方艺术作品。

像这样的问题是由于全球范围内的偏见，但这并不能给人工智能领域带来帮助。因为相比于白人和亚裔男性占主导地位的更广泛的计算机科学界，人工智能领域的多样性则更加不足。

Element AI 的员工中有33%为女性，领导岗位中有35%为女性，技术岗位中则有23%，这比许多大型科技公司的比例要高。Element AI的员工来自多于25个国家，但公司没有按种族划分员工，在我访问期间，看到的主要是白人和亚裔，尤其是高层。

Bengio表示，他对目前的情况感到“羞愧”，并试图解决这个问题，并扩大了招聘范围，并且为来自弱势群体的学生提供了资助。与此同时，Element新聘请了一位人事副总裁Anne Mezei，她将多样性和包容性作为首要任务。为了解决其产品可能存在的伦理道德问题，Element正在聘请伦理学家作为研究员，与开发人员一起工作。

然而，道德挑战依然存在。在早期的研究中，Element AI基于自己的数据开发了一些产品，例如，问答工具部分基于内部共享文件进行训练。运营主管Martel告诉我，由于Element AI管理人员不能确定如何道德地使用人工智能来进行面部识别，他们计划通过安装摄像头来对自己的员工进行实验，这些摄像头将在员工的许可下，捕捉他们的面部表情。管理人员将对员工的感受进行调查，从而提高他们对道德维度的理解。 “我们想通过自己来解决这个问题，”Martel说。

Bengio相信科学家的工作就是继续探索人工智能的发现。他说，政府应该更积极地监管这一领域，同时使分配财富的方式更平等，投资于教育和社会保障网络，以减轻人工智能带来的不可避免的负面影响。华盛顿大学教授Domingos说：“我认为Bengio相信人工智能是可以合乎道德的，他的公司可以成为合乎道德的人工智能公司。”“但坦率地说，Bengio有点天真。很多技术人员都有点天真，他们有这种乌托邦式的观点。”

Bengio不赞同这个描述。“作为科学家，我相信我们有责任与公民社会和政府接触，”他说，“以我们所信仰的方式影响思想和心灵。”

3

尽管如此，Bengio可能比其他任何一个学者都有影响力，他培养了下一代研究人员。（他的一个儿子也成为了人工智能研究员；另一个成为了音乐家。）尽管他是Element的联合创始人之一，但Bengio承认他并没有在办公室里花很多时间；他一直专注于人工智能研究的前沿领域，而这些领域远不是商业应用。

尽管科技公司一直专注于让人工智能更好地完成它所做的工作——识别模式并从中得出结论——但Bengio想要跳过这些基础，并开始建造更受人类智能启发的机器。他犹豫着，不愿描述那可能是什么样子。但我们可以想象，在未来，机器不仅可以在仓库中移动产品，还可以在现实世界中导航。他们不只是对命令做出反应，而是理解和同情人类。他们不仅会识别图像，还会创造艺术。为了实现这一目标，Bengio一直在研究人类大脑是如何运作的。

虽然Bengio相信像人类一样的人工智能是可能的，但他对埃隆·马斯克等人所强调的关于机器会超越人类的道德担忧感到不耐烦。Bengio更感兴趣的是人类建造和使用人工智能的道德选择，“最大的危险之一是人们会以不负责任的方式或者恶意的方式对待人工智能——我指的是为了他们的个人利益，”他曾经在一次采访中说。其他科学家也有Bengio这样的感受，然而，随着人工智能研究的继续，它仍然由世界上最强大的政府、公司和投资者提供资金支持。Bengio的大学实验室很大程度上是由大型科技公司资助的。

在一次关于大型科技公司的讨论中，Bengio告诉我，“我们希望Element AI能像这些巨头一样大。”当我质疑他是否会继续保持他所谴责的那种财富和权力的集中时，他回答说：“这个想法不仅仅是创建一家公司，成为世界上最富有的人。这是为了改变世界，改变商业的运作方式，让它不那么集中，让它更民主。”