AI生成的虚拟模特,正在主动申请成为诈骗广告的“代言人”。
Wired AI报道,AI模特平台出现大量“申请成为诈骗脸”的请求这些请求来自匿名用户,目标是将AI生成的面孔用于投资骗局、虚假广告平台隐私条款存在巨大漏洞,GDPR地区外用户几乎无法阻止数据被追踪这事怎么爆出来的?
Wired AI的记者在调查AI生成内容滥用时,发现了一个诡异的现象。
多家提供AI模特生成服务的平台后台,出现了大量标注为“诈骗用途”的申请。
这些申请不是要模特去拍时尚大片,而是明确写着:“需要一张看起来可信的脸,用于投资推广视频”、“寻找中年男性形象,用于保健品销售广告”。
更离谱的是,申请者甚至会对AI模特提出具体要求:“表情要真诚,带一点权威感”、“不能太漂亮,要像隔壁邻居”。
这些要求完全符合诈骗心理学——太完美反而让人警惕,普通长相才最可信。
平台到底管不管?
记者联系了几家平台,得到的回复基本都是“正在调查”。
但当你点开这些平台的隐私条款,会发现一个更让人不安的事实。
“目前,只有来自GDPR国家(欧盟通用数据保护条例)和某些美国州的居民,可以通过我们的同意管理平台选择退出追踪技术。
关于这些技术的其他选项,可能在您的设备、浏览器上可用,或通过行业选项如AdChoices提供。
更多信息请参阅我们的隐私政策。
”说白了,如果你不在欧盟或那几个特定的美国州,你几乎无法阻止平台用你的数据来训练AI,或者追踪你的行为。
而这些数据,最终可能被用来生成更逼真的诈骗面孔。
网站自己承认,他们用了三种关键追踪技术:1. 广告合作伙伴的Cookie,用来构建你的兴趣画像,在其他网站向你展示相关广告。
2. 性能测量Cookie,统计访问量和流量来源,测量和改进网站性能。
3. 功能Cookie,记住你的偏好,比如语言、字体大小、区域选择和自定义布局。
最讽刺的是这段声明:“这些Cookie不直接存储个人信息,但基于唯一标识您的浏览器和互联网设备。
”——设备都唯一标识了,这和直接认人有什么区别?
这事对你有什么影响?
以后你在网上看到的“专家推荐”、“用户分享”视频,那张脸可能根本不存在。
它是一个由数据喂养出来的AI合成形象,背后可能是一个诈骗团伙在操控。
更麻烦的是,因为AI模特没有真实身份,一旦出事,你连起诉对象都找不到。
平台可以用“用户协议”甩锅,诈骗者用虚拟身份隐身,最后吃亏的只有普通人。
Wired在报道最后提了一个尖锐的问题:当技术平台把“用户体验”和“数据收集”放在第一位时,谁来为技术的滥用负责?
是开发模型的工程师,是运营平台的商业公司,还是制定法律却跟不上技术速度的监管机构?
留言聊聊你觉得AI生成的面孔用于商业广告,应该强制打上“虚拟人物”标签吗?
还是说,只要好看好用就行,管它是不是真人?
来源:Wired AI|原文:Models Are Applying to Be the Face of AI Scams