发展人工智能必须要有正确的价值观和设计原则

首页

2018-10-09

本文摘自《刷新:重新发现商业与未来》萨提亚·纳德拉著中信出版集团2018年1月出版  人工智能发展的轨迹,及其对社会的影响才刚刚开始。 要真正把握这个即将到来的时代的意义,我们还需要从多个方面进行深入分析。   人工智能并不是威胁  未来,人工智能将成为一种更常见、更重要的陪伴者。

人工智能助理会知道你在工作且有10分钟的空余时间,然后帮你完成待办事项中优先级靠前的事项。 人工智能将会让我们的生活更富成效和更具创造性。   毫无疑问,我们是在创造一个新的物种,一个在智力上可能没有上限的物种。

一些未来主义者预测,所谓的奇点,即计算机智能超越人类智能的时刻,可能会在2100年之前到来,而另一些人声称这将仍然只是科幻作品中的畅想。 奇点这种可能性听起来令人振奋,但也让人觉得有点可怕——也许两者都有一些。 人工智能的发展最终会对人类有益还是有害呢?我坚信是有益的。   斯坦福大学“人工智能百年研究”项目报告指出,到2030年,人工智能和机器人技术将应用在“世界各地那些难以吸引年轻人的行业中,比如农业、食品加工业、订单履行中心和工厂”。

该报告没有发现有任何理由担心人工智能是对人类的一种迫在眉睫的威胁,“没有任何具有自我维持的长远目标和意图的机器被开发出来,也不可能在不久的将来开发出来”。

  跳出对抗性思维  为了确保人工智能对人类是有利的这种情况的发生,我们需要跳出“机器对比人类”的框架来思考。 科幻作家常常陷入到数字对人类的游戏中,甚至技术创新者本身也是如此,就好像是双方在开展一场争夺霸权的战争一样。

  2016年,谷歌DeepMind的阿尔法围棋(AlphaGo)战胜了韩国围棋高手李世石。

毫无疑问,这是科学和工程上的巨大成就。 但是,除了计算机在游戏中击败人类之外,未来还有更光明的前景。 最终,人类和机器将进行合作——而不是相互对抗。

想象一下,当人类和机器共同努力解决最大的社会挑战——疾病、无知和贫困的时候——可能会发生什么事吧。

  现在有太多关于人工智能未来的辩论都忽视了机器和人类合作的潜在之美。 我认为,人工智能方面最有成效的辩论并不是善与恶的对抗,而是要看一看创造这种技术的人和机构被灌输了怎样的价值观。

如果不用情商来搭配智商使用,人工智能就会走向失败。   第三代系统平台  有很多先驱都对人工智能的风险进行了思考。

科幻作家艾萨克·阿西莫夫(IsaacAsimov)几十年前就在思考这个挑战。

在20世纪40年代,他提出了“机器人三法则”(ThreeLawsofRobotics),首先,机器人不应该做出伤害人类的事情,也不应该通过不作为来伤害人类。

第二,它们必须服从人类的命令。

第三,它们要保护自己。

  计算机先驱艾伦·凯(AlanKay)则表示:“预测未来的最好办法就是发明它。

”从人工智能的角度来说,他的意思基本上是,不要预测未来会是什么样子了,而要以一种有原则的方式来创造未来。

我同意这个观点。 和任何软件设计上的挑战一样,一个平台在建立之初就应该采取这种有原则的做法。

  从软件开发的角度来说,人工智能正在成为第三代系统平台——也就是下一个系统,程序员在这个系统之上构建和执行应用程序。

PC是微软开发应用程序的第一代系统平台,这些应用程序包括Office工具套件——Word、Excel和PowerPoint等。

今天,Web是第二代系统平台。 而在人工智能和机器人的世界中,即第三代系统平台,生产力和沟通工具是为一个全新的平台构建的,这个平台做的事情不仅仅是管理信息,还包括从信息中学习,与物理世界交互。   人工智能的发展方向  如今,人们对人工智能发展的方向,正在决定第三代系统平台的面貌。 在我们推动人工智能发展的过程中,最重要的步骤就是对人工智能设计达成一个伦理和同理心的框架——这是开发那种不仅规定了技术要求,而且还规定了伦理和同理心的系统的一种方法。 人工智能的设计初衷必须是为人性提供帮助,人工智能设计应该要树立一些原则和目标。   人工智能必须是透明的。

不仅仅是技术专家,我们所有人都应该明白技术是如何运作的,其规则是怎样的;人工智能必须最大限度地提高效率,同时又不会损害人的尊严。 它应该保护文化承诺,赋权于多样性;人工智能在设计上必须有注重智能隐私,能够为个人和群体信息提供精密的保护,程度要足以赢得人们的信任;人工智能必须具备算法问责制,这样人类就可以撤销那些引发意外伤害的做法。 我们必须为预期中的和预料之外的情况设计这些技术。

  虽然对如何进入人工智能时代,目前还没有清晰的路线图,但在以前的工业革命中,我们已经看到社会转型并不一帆风顺,总是充满艰难与挑战。 但是,如果我们拥有正确的价值观和设计原则,如果我们为人类所需的技能做好了准备,那么即使在我们改变世界的同时,人类和社会也会蓬勃发展。 +1。