机器人撩汉、一键脱衣……AI技术的黑暗面究竟有多深?

“××派出所提醒您,网络刷单就是诈骗!陌生客服让汇款的就是诈骗……”

为了唤醒民众的防骗意识,深圳各个街道正进行着高音喇叭洗脑式反诈骗宣传,但“杀猪盘”嚣张肆虐手段仍然在不断提升。

昨日,法制网上披露了一起利用婚恋交友平台诱惑行骗的犯罪案件,该犯罪团伙利用多个交友平台伪装身份骗取被害人信任,令其高额购买廉价红酒。

又是交友平台,似乎情感游戏非常适合作为诈骗手段,有位名叫“牛顿顿顿”的作者曾做过一期调查,实实在在体验了一把被人利用AI技术割韭菜的感觉。

他在晚上使用某FM听相声的时候,被疯狂推送了很多附带美女的性感广告,作者带着好奇心来猎奇,顺着这些性感的贴片广告摸下去,竟然扒出了一群利用AI技术割交友(YP)男韭菜的神奇灰产……

精准定位客户

广告画面中每张图片都是亮点,广告词更是露骨,而且每次退出来再切进去,图片都不一样,鉴于这种广告投放风险很高,所以作者选用了多款手机,在不同时间点,查看不同内容专辑,在发现的十几个节目贴片广告中,这个擦边球广告,竟然只投在了郭德纲相声专辑上,且只在凌晨时段出现。

好一个精准投放!

好一个见人下菜碟的“大数据精准割韭菜”!

“选妃模式”浏览

下载APP很顺畅,填写信息后回来到软件界面,画面设计很干净,除了性感美女没别的。不喜欢就左右滑动淘汰掉女嘉宾,喜欢就点个红心,软件自动发消息帮你配对儿。

据作者称这个APP体验感是真的不错,注册没一会儿就有无数的“美女”跑来和你搭讪,一瞬间让人产生抢手的错觉。

但是,当你想回信息的时候,会发现这种软件有个很BT的设计:你无法跟美女自由对话,需要做选择题。

想要获得自由权限就只有一个办法:充值。

当你在充值窗口犹豫不决的时候,一位等不及的小姐姐干脆Call视频过来了。

当系统检测到你迟迟不肯付款,就会换另一位美女打视频督促你冲会员。

一番体验下来,大致套路已经很明确了,从产品宣传到大数据分析定位精准客户,再到AI机器人话术套取用户喜好,最后选妃模式+私信聊骚+视频邀约冲击付费,这款小程序的产品经理将用户体验升华到了另一个档次。

作者去各大应用市场调查了一下,发现了很多同类的社交软件,体验之后,这些不知名的App流程大同小异,甚至有几个App的用户的头像和话术,都是一模一样的,他们共用了一套非常相似的“AI诈骗模式”,从网络上爬取的图片搭配上不同类型的故事模型,根据美女间细化的不同人设对应开发话术,然后做AB测试,所谓的人工智能聊天,全自动回复的技术实现也比较简单,基本上就是话术流程和关键词匹配。

一个开发团队会做许多这样的APP,他们会把这些APP组成一个“矩阵”,行内人管这个叫做MAN (多应用网络),同样的数据库和框架,随便改下名字,换个UI界面就被包装成另一个APP,这么搞主要是为了迎合不同关键词的搜索流量和需求口味比较分散的用户,同时也能防止出了问题后被一锅端。

可惜作者没舍得他的早餐钱,体验到付款这里就戛然而止了。若他再继续深挖,就会发现另一番天地。

如果这个诈骗团伙只是单纯的定向割韭菜,那么等到你付款后这些热情的小姐姐机器人就不会再搭理你了。

但有一些App更加狡诈,更加擅长对韭菜搞精耕细作,他们会在网上雇一些做兼职的小姑娘,专门就是负责在线聊天,机器把那些付费意愿高的人筛选出来交给她们,她们负责一对一“进攻”,来提高转化率,在诱骗成功之后,她们拿到提成奖励。

甚至碰到好骗又大方的韭菜,还会针对性的提供“服务”,继续诱导购买更贵的会员服务。

一键脱衣APP

年中时候,像病毒一样传播的《DeepNude》,就曾凭借一键“脱掉”照片主人的衣服红极一时,最后因登录人数太多造成宕机,最终被迫下线。

DeepNude的创建者阿尔贝托(Alberto)表示,这款 APP 基于加州大学伯克利分校研究者开发的开源算法 pix2pix,并使用 1 万张女性裸体照片进行训练。

DeepNude先是分析人物轮廓,确定人物的身体特征,再把两处重要位置P上去,就是这么简单直接,且上传照片皮肤越裸露,最后的图片就会越真实。

之前这款应用提供了客户端版和网页版,你可以选择支付50美元付费使用,也可以选择使用免费版,区别是免费版获得的图片会出现较大水印。但有一个很大的问题是DeepNude只针对女性图片进行优化,假若你上传了一张男性的照片,最后生成的图片会被替换成女性的身体,

阿尔贝托说他的灵感来源于曾于20世纪60年代和70年代期间在杂志上浏览过的X射线眼镜等小玩意广告,且一再强调该软件的开发完全是出于“有意思”和好奇心,但软件满足的本就不是正当合法的需求,竟然还有收费要求,随便在网上找一张图片都能变成“全裸”,已经属于侵犯个人隐私的行为。

除了这种直接谋财的,还有一些灰产商们剑走偏锋,人称“料商”

人脸代认证

他们盯上了人脸识别这块肥肉,针对目前不少APP应用中的人脸识别认证这一功能,人脸代认证服务悄然出现。

据黑产人士称,认证通常需要姓名、身份证号和大头照。黑产业内通常将以上资料统称为“料”。据透露,每条料子价位在1元左右,黑产人士用这个技术来做拉新项目赚取推广佣金。“一天几百不成问题。”

“甚至可以在本人不知情的情况下注册公司、撸贷。”黑产从业者称。

×××

这些APP从“出生”开始就带着原罪,这些灰黑产们混杂在一起,热衷于发挥技术的黑暗面,构建了一个规模巨大的黑色产业链,利益划分细致,各取所需,分工明确,在违法的边缘疯狂试探。

人脸识别技术本身是科技进步的一种表现,技术是中性的,而真正对个人信息安全构成威胁的是人脸信息的泄露和技术滥用。科技发展无可厚非,法律完善势在必行。对于面部信息滥用类型、处罚方式、主体都应该在法律上有所界定,在不断完善立法和强化监管中,让这项技术更加规范、恰当地得到应用,造福于社会。

我们要敢于拥抱新技术,在制作和体验中规范行为,注重保护隐私,辨别虚假犯罪,未知APP不可装,未知链接不可点,好奇一时爽,被坑火葬场。

最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 159,117评论 4 362
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 67,328评论 1 293
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 108,839评论 0 243
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 44,007评论 0 206
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 52,384评论 3 287
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 40,629评论 1 219
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 31,880评论 2 313
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 30,593评论 0 198
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 34,313评论 1 243
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 30,575评论 2 246
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 32,066评论 1 260
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 28,392评论 2 253
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 33,052评论 3 236
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 26,082评论 0 8
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 26,844评论 0 195
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 35,662评论 2 274
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 35,575评论 2 270