当前位置: 制片百科 > 拍片相关 > 摄影

Facebook用AI生成的个人资料照片删除了近1,000个帐户

2020-09-25 15:09:08

当AI生成的面孔变得更加普及和可用时,一些人担心这些假人像可能会被滥用。好吧,他们的恐惧成真。上周五,Facebook删除了近千个使用人工智能生成的照片的虚假个人资料,页面和群组。根据消息来源,所有这些都被用来推动政治活动,主要是右翼运动。

所有欺骗性的个人资料,页面和群组都是“全球网络”的一部分,据称该网络将亲特朗普的叙述推向Facebook和Instagram上的数百万用户。据Facebook称,作为起源于佐治亚州的面向家庭的网络的一部分,他们删除了39个Facebook帐户,344个Pages,13个群组和22个Instagram帐户。较大的组包含来自越南和美国的610个帐户,89个Facebook Pages,156个组和72个Instagram帐户。 Facebook在其报告中写道,第二个小组的重点是“主要针对美国,有些针对全球的越南,西班牙语和华语受众”。

据报道,这些假帐户被用来管理页面和组,并将流量引至Facebook以外的站点。根据该报告,该活动主要与美国媒体公司The BL有关,后者由美国和越南的个人经营。这些人使用AI生成的个人资料照片创建了虚假帐户,以使他们的个人资料看起来更真实。 Facebook解释说,他们主要发布“有关美国政治新闻和问题的模因和其他内容,包括弹each,保守派意识形态,政治候选人,选举,贸易,家庭价值观和宗教自由”。在虚假信息组织Graphika和DFRLab的报告中,此内容主要推动了亲特朗普的叙述。

该报告指出,这个“全球网络”通过其创建的页面覆盖了大约5500万人。大约381,500人加入了至少一个群组,约92,000人关注了至少一个Instagram帐户。

Graphika和DFRLab指出,这是他们第一次看到在社交媒体活动中使用AI生成的照片。尽管有时可能很难区分AI生成的肖像与真实肖像,但仍有一些东西可以使它们消失。 Graphika和DFRLab在报告中写道:“由GAN当前状态生成的图像因在人脸上应该对称的特征(例如眼镜或耳环)而挣扎而臭名昭著。”他们补充说,通常可以从不良的背景细节中分辨出AI生成的照片,而来自全球网络的个人资料照片“显示了这三者的故事”。

也许有一线希望是,人工智能生成的照片仍然相对容易发现,因此可以成功阻止此类活动。但是,当(如果有)假人像变得更加逼真时,……恐怕我们还会看到更多像这样的误用。听起来一点也不令人鼓舞。

[通过有线]

拍片计算器
推荐视频
我要
拍片
拍片
报价
免费
策划
客服 400-888-0960
APP
下载

制片帮APP下载

扫码下载
免费配音
公众号
公众号
拍片热线
400-888-0960
微信
客服微信号
投诉
建议
维权与监督
客服:400-888-0960
微信
客服微信