人工智能测谎技术问世:比人类更强,但需谨慎使用
近年来,人们在分辨真假信息方面遇到越来越多的应战,尤其是网络上充满很多虚伪新闻和夸张宣扬。研讨标明,人类在判别真假话方面体现得并不好。
据了解,传统测谎手法,例如测谎仪,因其精确性问题而饱尝诟病。一些人以为,人工智能(AI)能够协助咱们进步辨认谎话的精确率。未来某一天,根据人工智能的测谎体系或许能协助咱们辨认交际媒体上的虚伪信息、评价网络上的各种言辞,乃至还能鉴别求职者的简历和面试答复中的夸张之处。但是,问题在于咱们是否会信赖这些体系,以及它们是否值得信赖。
德国维尔茨堡大学经济学家 Alicia von Schenk 及其团队最近研发了一款人工智能测谎东西,该东西的精确率显着高于人类水平。他们进行了相关试验以探求人们怎么运用这一东西,试验成果显现,运用该东西的人在辨认谎话方面的确有所提高,但一起也会导致更多的人被置疑扯谎。
研讨人员在发表于 iScience 期刊的论文中
说到
,他们让参与者书写周末方案。其间一半的参与者被要求说谎,并会因为说服人信赖谎话而取得少数金钱奖赏。研讨共收集了来自 768 人的 1536 份陈说。随后,研讨人员运用 Google 的人工智能言语模型 BERT,对其间 80% 的陈说进行练习,以协助算法区别真假话。测验成果标明,该东西能以 67% 的精确率辨认出剩下 20% 陈说的真伪。相比之下,人类的均匀精确率仅为 50% 左右。
为了解人们怎么凭借人工智能东西辨认谎话,von Schenk 团队又将别的 2040 名志愿者分红小组进行了一系列测验。
其间一项测验显现,当人们能够挑选付出少数费用运用人工智能测谎东西并取得奖赏时,只要三分之一的人会挑选运用该东西。von Schenk 估测,这或许是因为人们对这项技能持置疑态度,或许高估了自己的识谎才能。
但是,挑选信赖该东西的那三分之一人对其体现出了极大的依靠。“当人们自动挑选依靠这项技能时,他们简直都会遵从人工智能的猜测……他们十分信赖其判别。”von Schenk 说。
这种依靠会影响咱们的行为。一般情况下,人们倾向于信赖别人说的是真话。这项研讨也印证了这一点——虽然参与者知道一半的陈说是谎话,但他们只标记出其间的 19%。但是,当人们挑选运用人工智能东西后,标记为谎话的份额上升到了 58%。
在某种程度上,这或许是一件功德。此类东西能够协助咱们在日常日子中辨认更多的谎话,例如交际媒体上的虚伪信息。
但另一方面,这也会损坏信赖,而信赖是人类行为的根底,有助于咱们树立杰出的人际关系。假如精确的判别树立在社会关系的恶化之上,那么这样的精确性还有价值吗?
其次,精确率问题也不容忽视。研讨人员供认,他们的方针只是是让 AI 比人类体现更好,但关于交际媒体内容的真实性断定或求职者的简历审阅等场景来说,只是“比人类强”或许还不行,因为这会带来更多的误判和指控。
值得一提的是,传统测谎手法也存在着缺点。测谎仪旨在丈量心率和其他生理唤醒目标,因为人们曾以为压力是扯谎者的特有生理反应。但现实并非如此,这也是为什么测谎仪成果在美国法庭上一般不被采信的原因。
von Schenk 指出,因为人工智能测谎东西易于大规模运用,其带来的影响或许会更大。测谎仪每天只能检测少数人,而人工智能测谎东西的运用规模简直是无限的。
“鉴于当下充满着很多虚伪新闻和错误信息,此类技能的确有必定的好处,”von Schenk 说,“但是,咱们的确需要对其进行严厉测验,以保证其远超人类的精确率。假如人工智能测谎东西只会带来很多的误判,那么或许抛弃运用才是更好的挑选。”