AI水军和人类水军写的评论,测试下你分得清吗?

96
智黑生活家 Ac944899 bf5f 40df b265 7d947fadd946
2017.09.05 10:29* 字数 1559

要说现在被问到“有什么好吃的介绍?”,很多人都习惯性直接怼一句:“上大众点评看看不就知道了!”

因为嘿嘿办公室就经常上演这样的戏码啊,毕竟大家之言确实比一家之言好多了。

用户评论的出现真的炒鸡方便,想去浪想买买买的时候打开APP,看商家下面满满当当的评论文字+图片,不怕错过美食美景,也不怕踩坑(额各类APP的质量还是有些参差不齐)。

不过这么多年来,用户评论在方便大家的同时,也衍生了另一波口诛笔伐的存在,就是大量混迹于点评类APP/社区的“水军党”。

一些不怎么样的商家,为了提高店铺好评,雇佣一波水军来刷评论,甚至恶意诋毁商家、乱给评论,被这些评论混淆的嘿嘿表示超级上当受骗。

不过更匪夷所思的是嘿嘿发现人工智能界居然出现了“AI水军党”,芝加哥大学研究出一种人工智能竟然可以自动生成商家评论,而且这些评论可以顺利通过机器的审核,还能躲过人类的分辨。

想象一下如果AI像疯了一样在商家评价下写负面评论,那更新速度怕是连商家都郁闷“我招谁惹谁了”。

AI自动编写的虚假点评,其实是由一种被称为循环神经网络的技术,评论是通过深度学习生成的。

AI看过了上千万条真实评论,并对其进行语言模拟训练,然后通过语言模型,就可以预测一个词汇的概率,从而生成新的点评。

不要以为它只是简单的关键词复制粘贴使用,而是像我们写评论一样,一个字一个字输出来的,所以就这样它骗过了机器的检测。

芝加哥大学的研究人员表示,AI生成的点评已经做到了“以假乱真”的程度,因为在他们开展的600个用户参与的调查结果显示,用户以为这些信息都是人写的,并相信了这些评论内容。

就这样AI生成的虚假点评,轻易取得了人类的“信任”,要是它真的编出个谎言来,不知道会造成什么影响。

不要以为受害的只是商家,假设你想出去吃一顿好的,然后点开某家点评网站,看到一堆AI生成的谎话连篇的评论,还信以为真屁颠屁颠跑去了,结果吃了一顿倒胃口的“大餐”。

一个美好的期待瞬间破灭,看回评论都觉得“自己是不是傻”。

如果不相信会被虚假评论骗的话,可以看下面六个句子。

你猜的出来哪个是AI写的吗?

1、我最喜欢去的意大利餐厅。大爱这家菜品,一切都很棒。我推荐生牛肉配芦笋。可惜现在名气太大了,越来越难在黄金时间预定到座位。

2、我们全家都是这间餐厅的超级粉丝。工作人员非常奈斯,食物很棒。鸡肉非常好吃,蒜汁堪称完美。上面配有水果的冰淇淋也很美味。强烈推荐!

3、每年圣诞节我都来,最爱意大利面!物有所值!

4、非常好的披萨、烤宽面条以及最好吃的扇贝之一。甜品很大很美味。

5、这的食物好吃得惊人,分量也很大。芝士百吉饼做得非常完美,新鲜又美味!服务很快。毫无疑问是我们最爱的地方!我们还会回来的!

6、我来这吃饭已经一年半了,除了好吃我无话可说。我总是点披萨,意大利牛肉也很好,给我留下深刻印象。服务非常出色。是我见过的服务最好的餐厅。强烈推荐。

想知道答案?

快到踮脚猫公众号后台回复“水军”,嘿嘿立刻告诉你答案。

那对于这些虚假评论真的没法解决了吗,其实也不是,这些虚假的评论还是有隐藏漏洞的。

因为计算机程序可以测算字符的分布规律,而这恰恰是目前的人工智能忽略掉的部分。

比如说真评论和假评论使用单词的频率是不同的,AI为了保证语句流畅,所以用词会相对保守,可以理解为某些词汇出现有一定频率。

但是呢,一旦AI拥有更强大的神经网络,单靠计算机程序怕是不能完全识别了。

不过好在目前世界上,并没有出现利用AI散播恶意评论的情况。

事实上,AI 技术能模仿的不仅仅是评论。

比如图片,它还能通过Prisma让普通照片变成艺术画作

比如声音,通过Project VoCo 软件对声音进行重构和创造

比如视频,可以把人说话的声音转成嘴型移植到另一个视频里

虽说AI的应用取决于人类,但适当的防御措施还是要准备的,毕竟,他们是如此聪明~

————————————

想了解更多炫酷有趣的科技资讯吗,嘿嘿在主页等你哟:http://www.jianshu.com/u/313fca93b9b1

趣闻丨科技脑洞
Web note ad 1