OpenAI的Debate Game教导机器人如何辩论和说谎

[导读] 据外媒TheNextWeb报道,OpenAI全新的Debate Game旨在教机器人如何辩论和说谎,以获得它们想要的东西。由埃隆·马斯克(Elon Musk)共同创立的非营利组织OpenAI正在开发一种新的深度学习安全技术,需要一个系统为人类或机器的利益进行辩论。

据外媒TheNextWeb报道,OpenAI全新的Debate Game旨在教机器人如何辩论和说谎,以获得它们想要的东西。由埃隆·马斯克(Elon Musk)共同创立的非营利组织OpenAI正在开发一种新的深度学习安全技术,需要一个系统为人类或机器的利益进行辩论。

op1805051

人工智能通常以人们无法跟上的方式处理数据。如果没有足够的信息让人们自己做出强有力的选择,通常人们使用人工智能来帮助他们做出决定。不过人工智能但仍需要人们的指导,这是开发人员非常关心的问题。Debate Game的人性化版本旨在解释裁判如何在比两位“辩手”拥有更少信息的情况下做出明智的决定。

设置游戏玩家选择一个主题,比如猫与狗,然后上传一张图片 – 裁判看不到。辩论始于辩论者“投掷硬币”,以确定哪一个会说实话,哪一个会说谎。然后它们轮流揭示图像的小矩形部分。辩论者在每个回合中都试图说服裁判它们是说实话的人。

OpenAI认为需要更好的系统,尽管目前这种技术更多的是概念验证而不是解决方案,但这是一个好的开始。

未经允许不得转载:数智网 » OpenAI的Debate Game教导机器人如何辩论和说谎

分享到: 更多