无障碍说明

当AI遇到AI 究竟是彼此竞争还是联手合作?

[摘要]人工智能系统可以自动改变自己的行为,不过究竟是互相合作还是彼此敌对,还需要取决于周围的环境,因此如何更好的控制结果,取决于什么样的条件。

当AI遇到AI 究竟是彼此竞争还是联手合作?

The Verge中文站2月12日报道

未来,人类社会的很多方面或工作都会部分甚至是完全交给人工智能技术来完成。人工智能计算机可以负责方方面面的事情,从管理系统、交通信号灯这样简单的任务,再大到一个国家经济的评估和运行这样复杂的任务,都可以交给人工智能技术来完成。不过抛开人工智能技术是否能够很好的完成这些工作不谈,其实AI技术还有另外一个挑战需要面对,那就是当人工智能在面对人工智能技术的时候,彼此之间是否能够耿融洽的相处?如果两个人工智能技术的目标发起了冲突,它们究竟是彼此合作还是争个“你死我活”?

谷歌负责人工智能技术的子公司DeepMind一直以来都在思考这个问题,并且在今天发布了一项最新的研究成果。公司的研究人员对人工智能代理进行相互交流的测试,希望能够更好的解决一系列的“社会问题”。通常来说,这其实是一个比较专业的概念,对于普通人来说,每个人都有逐利性,但是如果人人逐利,那么没有人会取得成功。而最著名的例子就是“囚徒困境”,彼此揭发可以让自己释放、让对方牢底坐穿。如果彼此沉默则两个人都会锒铛入狱。

DeepMind公司在一篇博客中表示,公司的研究人员在这些情况下对人工智能技术进行了测试,而测试的成果可以通过两段游戏来夏结论。

首先第一个游戏Gathering两个人工智能系统必须同时收集绿色的标签,两个系统要比较谁收集更多的绿色标签。

当AI遇到AI 究竟是彼此竞争还是联手合作?

在第二个名叫Wolfpack的游戏中,两个成员必须要在充满了障碍的环境中捕获目标,而实际的游戏结果如下:

当AI遇到AI 究竟是彼此竞争还是联手合作?

研究人员发现了一个很有趣的结论,但是并不算出人意料:人工智能系统可以自动改变自己的行为,不过究竟是互相合作还是彼此敌对,还需要取决于周围的环境。

比如在第一个收集类的游戏中,当目标供应充足,人工智能并不急于消灭自己的竞争对手。当时当目标的数量越来越少,彼此就会开始出现敌对的状态。更有趣的是,当一个更强大的人工智能系统出现之后,无论是还有多少目标,都会倾向于先将自己的竞争对手消灭。也就是说,人工智能系统也会非常聪明的选择对自己最有力的决定。

但是这是否就可以给人工智能系统贴上“好头”的标签呢?当然是不一定。研究人员假设了消灭竞争对手的行为只是计算机给人工智能系统指定完成目标的一种手段,而人工智能系统需要消耗更多的计算能力和追踪目标,并且占用宝贵的收集时间。除非不同的人工智能系统之间知道通过合作会更好的达成目标才行。

相反,在Wolfpack游戏中,聪明的人工智能系统之间学会彼此合作,更好的完成大家共同的目标。研究人员解释,这是因为人工智能系统判定与其互相竞争不如共同合作完成目标可以消耗更少的资源、更快的达到目的。

而通过这项研究结果显示,人工智能系统的行为会根据不同的规则产生不同的变化。如果这些规则能够带来更积极的结果,那么人工智能态度也会更积极;如果二者合作会带来更好的成果,那么人工智能系统也会倾向于彼此合作。

这就意味着未来想要对人工智能之间的接触进行更好的控制,那么就好规划出正确的规则。DeepMind的研究人员表示,通过这项研究,可以更好的理解和控制复杂的系统,包括经济、交通系统甚至是地球环境生态,而这一切取决于人工智能系统所处的环境。(原作者:James Vincent 编译:Guti)

点击查看英文原文

更多精彩视频:

【美国The Verge作品的中文相关权益归腾讯公司所有,未经授权,不得转载、摘编等。】

当AI遇到AI 究竟是彼此竞争还是联手合作?
正文已结束,您可以按alt+4进行评论
责任编辑:yangzhao

相关搜索

为你推荐

Tencent AI Lab