

在人工智能生成的流行歌手泰勒·斯威夫特的裸照走红后,X解除了对泰勒·斯威夫特的搜索禁令,这引发了人们对埃隆·马斯克的社交媒体网站在打击深度伪造方面做得不够的愤怒。
“搜索已经重新启用,我们将继续警惕任何传播这些内容的企图,如果我们发现它,就会删除,”这家总部位于旧金山的公司(原名Twitter)的商业运营主管乔·巴纳罗克(Joe Banarroch)周二告诉《华尔街日报》。
尽管该公司在周一晚间解除了对泰勒·斯威夫特全名的禁令,但搜索“泰勒·斯威夫特人工智能”仍然被屏蔽,用户得到的信息是:“出了问题。尝试重新加载”。
霉霉的裸照被发布在X上,在该账户被封之前,浏览量达到了4700万次。
Benarroch说,周六,X开始屏蔽搜索Swift的用户,以便“在这个问题上优先考虑安全”。
用户可以通过只输入歌手的名字或姓氏来绕过这一禁令。
3
在X发布搜索禁令之前,白宫上周五介入此事,称这些虚假图片“令人担忧”,并强调社交媒体公司有责任防止此类错误信息的传播。
与过去困扰名人的传统伪造照片不同,斯威夫特的照片似乎是使用人工智能图像生成器创建的,可以根据书面提示立即创建新图像。
这些照片开始在网上传播后,这位歌手的忠实粉丝“斯威夫特”迅速动员起来,在X上发起了反击,并在#保护泰勒·斯威夫特(#ProtectTaylorSwift)标签上发布了这位流行歌手的更多正面照片。
3
一些人表示,他们正在举报分享深度造假的账户。
自从马斯克于2022年收购推特以来,他就因自己有争议的帖子而受到批评,这促使该平台上的许多广告商因担心与有害内容联系在一起而削减了支出。
最近几周,这位X老板因其平台上反犹太主义和新纳粹主义内容的扩散而受到抨击。
3
在收购特斯拉后的几周和几个月里,马斯克的首批举措之一就是削减信托和安全运营部门的员工人数。
X上周表示,将雇佣100名全职员工来打击儿童性剥削。
该公司周五宣布,它将在德克萨斯州奥斯汀建立一个“信任和安全中心”,在那里它将雇佣“内部代理人”,负责执行网站的内容和安全规则。
Benarroch说:“X没有专门针对儿童的业务,但重要的是,我们进行这些投资,以阻止违法者使用我们的平台分发或参与CSE内容。”
有电线的地方