AI应该为尽可能多的人提供共享的利益

导读 共享效益原则：人工智能技术应该使尽可能多的人受益并赋予权力。今天，世界上最富有的八个人的综合财富大于全球最贫穷人口的一半。也就是说…

共享效益原则：人工智能技术应该使尽可能多的人受益并赋予权力。今天，世界上最富有的八个人的综合财富大于全球最贫穷人口的一半。也就是说，8人拥有超过3,600,000,000人的总财富。

这已经是收入不平等的一个极端例子，但如果我们没有为人工智能做好准备，情况可能会变得更糟。除了首先设计先进人工智能的明显经济效益之外，那些从人工智能中获利的人也可能拥有：获得更好的医疗保健，更快乐和更长寿，为子女提供更多机会，提供各种形式的智力，以及等等。

文化转型

到目前为止，我们的技术方法是，无论谁先设计它，都会获胜 – 而且它们会赢得大奖。除了发明家可以积累的神话般的财富之外，新技术的创造者还可以完全控制产品及其分销。这意味着发明或算法只会使创作者希望它受益的人受益。虽然这种方法可能与之前的发明一起使用，但许多人担心高级AI会如此强大，以至于我们无法将其视为常规业务。

如果我们能够确保随着人工智能的发展我们都受益匪浅我们能否做出集体 – 并且先发制人 – 决定使用人工智能来帮助培养所有人，而不仅仅是少数人?

哈佛大学心理学教授约书亚·格林(Joshua Greene)解释了他对这一原则的看法：“在我们知道谁真正拥有它之前，我们事先说过，这不是私利。它将落在一些私人手中，它将落在一些私人公司手中，它将首先落入某个的手中。但这个原则说，“这不是你的。”这是一个重要的事情要说，因为另一种说法是潜在的，人类发展的最大力量属于谁先得到它。“

AI研究员Susan Craw也同意该原则，并进一步澄清了这一点。

“这绝对是肯定的，”Craw说，“但是当它作为一个整体被用作AI技术的复数时。与其说某项技术应该让很多人受益，不如说不同的技术应该使人们受益并赋予人们权力。“

实施的挑战

但是，正如所有原则一样，同意这些原则是一回事;实施它们是另一回事。IEEE人工智能和自治系统伦理考虑全球倡议执行主任John Havens考虑了最终需要如何修改共享利益原则，以便新技术同样有利于发达和发展中。

“是的，这太好了，”在添加之前，Havens谈到了这个原则，“如果你能在它之后写一个逗号，并且说……就像财富问题，GDP，尽管如此。”关键在于，无论人们能买得起什么，它都应该让他们受益。“

加州理工大学哲学教授帕特里克林，更关心的是如何实施该原则，并提到可能产生的意外后果。

林解释说：“共享利益很有意思，因为这是一个暗示结果主义的原则，我们应该将道德思想视为满足偏好或使尽可能多的人受益。这种道德方法并不总是正确的。…结果主义通常是有意义的，因此权衡这些利弊是有道理的，但这不是思考道德的唯一方式。在许多情况下，结果主义可能会让你失望。例如，结果主义可能是绿灯折磨或严重伤害一小群人，如果它会使整个社区的幸福感增加。“

“这就是为什么我担心……共享利益原则，”林继续道。“[它]是有道理的，但[它]隐含地采用了结果主义框架，顺便说一下，工程师和技术人员使用它是非常自然的，因此它们非常注重数字，并且倾向于考虑黑白相间的事物。利弊，但道德往往是软弱的。你处理这些软弱，抽象的概念，比如权利，义务和义务，而且很难将这些概念减少为可以权衡和交易的算法或数字。“

当我们将这些原则作为理想进行讨论并将其作为政策来实施时，诸如林刚刚表达的那些问题必须得到解决，同时考虑到结果主义和功利主义的可能缺点。

大图

魔鬼永远都在细节中。在我们考虑如何改变文化规范以防止所有利益只发生给新技术的创造者时 – 以及考虑如果我们这样做可能出现的问题 – 重要的是要记住为什么共享利益原则如此重要。路易斯维尔大学的人工智能研究员Roman Yampolskiy对此进行了总结：

“早期获得优越的决策工具可能会放大现有的经济和权力不平等，使富人转变为超级富豪，允许独裁者坚持权力并使反对派努力改变该制度不太可能成功。先进的人工智能可能有助于医学研究和基因工程，特别是使重要的生命延长成为可能，这将消除一个最强大的变化驱动力和权力的重新分配 – 死亡。出于这个原因和其他许多原因，重要的是人工智能技术应该对全人类有益并赋予权力，使我们所有人都更富有，更健康。“

你怎么看?

共享福利原则对您有多重要?我们如何确保新的人工智能技术的好处能够在全球范围内传播，而不是仅仅依靠少数开发它们的人来实现?我们怎样才能确保我们不会无意中制造更多问题以分享AI的好处?

本文是关于23个Asilomar AI原则的系列文章的一部分。原则提供了一个框架，以帮助人工智能尽可能多的人受益。但是，正如AI专家Toby Walsh所说的那样，“当然，这只是一个开始。……正在进行中的工作。“原则代表了对话的开始，现在我们需要跟进对每个原则的广泛讨论。您可以在此处阅读有关先前原则的讨论。

未经允许不得转载：87头条 » AI应该为尽可能多的人提供共享的利益