主页 > 世界资讯 >能预约餐厅的 Duplex 没说自己是 AI,这会是人工智慧的道德困境吗? >

能预约餐厅的 Duplex 没说自己是 AI,这会是人工智慧的道德困境吗?

能预约餐厅的 Duplex 没说自己是 AI,这会是人工智慧的道德困境吗?

最近遭受道德困境的不只是基因编辑,还有人工智慧。在今年夏天的 Google I/O 大会上,Google 向大众展示了一项名为 Duplex 的 AI 新功能──代替你预约理髮或餐厅订位。

这项功能之所以这幺受人关注和让人激动,最大的原因是接近以假乱真让 AI 用自然语言和人类交流,而人类甚至完全没意识到电话另一头并不是真人,而是 Google 的 AI。

最近,这个服务终于在 Pixel 用户群组小範围测试了。根据 VentureBeat 报导,目前 Google 正缓慢推送这项服务,不是直接正式开放,目前只在「精选城市」中的 Pixel「精选用户」测试,凡是支援这个服务的人上辈子大概都是被选召的孩子吧。

此外。这个服务目前功能也非常有限──哪怕跟 Google I/O 的展示版比。因为目前测试并不支援理髮预订(Google I/O 专门展示一段预约理髮的影片),只集中在餐厅预订,此外,一些餐厅也因一些不明原因无法支援。

向大众开放 Duplex 是非常好的事,我们终能亲自检验人工智慧领域的佼佼者究竟达到何种地步。但最近一些测试,Google Duplex 却让人产生担忧,当然这不是说它在智慧方面超出大众预计,而是整个对话过程,Duplex 都没有告诉对方自己只是 AI 服务。

当 Duplex 预约时只告诉对方「这个电话来自 Google,并可能会被记录」,仅此而已,之后它就按部就班预约餐厅,并在处理完成后挂断电话。

能预约餐厅的 Duplex 没说自己是 AI,这会是人工智慧的道德困境吗?

这显然跟之前的宣传不符,The Verge 表示,Google 今年 6 月 YouTube 的宣传影片,Duplex 会清楚表示是人工智慧服务,表示这通电话是透过 Google Assistant 打来并为客户预订。

对于为何会出现不同的处理,The Verge 表示根据熟悉早期测试的人士说,这个测试并不完全由 AI 构成,即一部分来自 Google 员工,其他部分是 Google 的 AI。所以 Google 没有透露人工智慧助理的资讯。

显然,人和 AI 的界线被模糊了,因为 Duplex 听起来和真人非常接近,它有停顿、会有各式各样语调和语气词。但对大众来说,这测试会理解为完全使用 AI 进行,而在人和 AI 的对话中,人们非常需要 AI 表明自己的身分。

Venturebeat 表示 Google 需要找到完美的平衡:

另外,Google 也在部落格展示 Duplex 如何工作的。

Google 表示,这是一项透过手机来执行「真实世界」任务的新技术,核心就是面对自然语言的挑战:自然语言难以理解,自然行为难以建模,需要快速处理以及使用恰当的语调进行自然语言发声,都是难点所在。

Google 也明确表示透明度是重要的部分,Google 需要明确告知意图而对方理解前后文,未来几个月 Google 会在这方面继续调整。

能预约餐厅的 Duplex 没说自己是 AI,这会是人工智慧的道德困境吗?

而让 Google Duplex 的对话听起来很自然要归功于递迴神经网路(RNN),为了应对这些挑战採用 TensorFlow Extended(TFX)构建。为了提高精準度,Google 还透过匿名电话的会话数据在资料库训练 Duplex 的递迴神经网路;他们还为每个场景专门对理解模型进行了训练,最后透过理解、互动和时间完成 Duplex「口语」的进步。

最后 Google 表示,Google Duplex 朝着像人类和他人互动一样与技术互动迈出了一步,自然语言与人工智慧的交流在特定场景成为现实。Google 希望这些技术进步最终有助于改善人们与电脑日常互动的体验。

但就像开头说的,与真人界线的模糊更需要 AI 先验明正身,而不是装作和真人无异,这对人类来说是一件很重要的事,或说需要这种仪式感。随着技术演化前进,AI 可能很快就在大部分语音领域达到接近人类的水準,届时关于人工智慧的伦理问题,将更直白地摆到桌上。

从结果讲,人类并不愿意和与真人几近无异的 AI 对话,这会给我们不安全感,类似的事情其实也发生在外貌,着名的恐怖谷理论看来不仅可用在外貌,其实语音也有相似状况。

Oxford Internet Institute 的数位道德实验室博士 Thomas King 就直接表示,Google 这项测试其实就是骗局,假定人类和 AI 已无法区分,那对总机来说,会认为自己一直在和一群机器对话(所以总机也换成 AI 不就好了?),他还能保持和以前一样的沟通方式吗?没有礼貌和更粗鲁是不是也没关係?哪怕接到一通真人的电话,但这种想法或许已在他脑中挥之不去了。

对人类来说,如何思考人与科技的关係已是日常话题,我们也不缺乏相关科幻电影的想像,比如阿诺·史瓦辛格主演的《魔鬼複製人》就讨论人与複製人的伦理冲突,2004 年《机械公敌》把艾西莫夫三定律带进大众视野,电影《云端情人》则进一步探讨人类和人工智慧的情感问题。

但等到 Duplex 把人类与人工智慧的关係在现实中摆出来时,人类可能才发现自己有多幺敏感和自我保护。对 AI 没有标明身分这件事,我们已衍生出很多问题和想法,在人与人工智慧产生联繫的过程中,双方的地位、责任及更多事都会变得难以认定。

某些时候,如果我们忽略一些 Bug,其实电脑是比人类更完美的形态,它们能确实反映出你的行为和如实给你要的结果,但随着人工智慧模拟真人越来越像,我们可能更容易和 AI 产生矛盾和摩擦,导致与预期结果不符或受到其他损失。

因为,人类就是如此不完美的生物啊。