站长之家(ChinaZ.com) 5月6日 消息:据 404 Media报道，互联网最受欢迎的深度伪造色情内容在线网站 Mr. Deepfakes 于本周末永久关闭。
Mr. Deepfakes 网站一度吸引了大量“不良”用户。研究人员指出，这些用户愿意支付高达 1500 美元的价格，让创作者使用先进的 AI 技术，在未经名人或其他目标人物同意的情况下，使用她们的脸制作色情视频。研究人员发现，在巅峰时期，Mr. Deepfakes 有 4.3 万条视频的浏览量超过了 15 亿次。这些视频由近 4000 名创作者制作，这些所谓的“创作者”从这种不道德且如今已属违法行为的交易中获得了暴利。
不过，从本周起，这些视频再也无法观看了，且曾用来供用户提出制作新视频要求的论坛也已关闭。根据该平台发布的一则通知，当 “一家关键服务提供商”“永久” 终止服务时，网站就被关停了。
Mr. Deepfakes 证实称：“数据丢失让平台无法继续运营。” 同时他们警告，在其关闭后，不要相信任何之后出现的冒牌平台。“我们不会重新上线。任何声称是我们的网站都是假的。这个域名最终会过期，我们不对其未来的使用负责。这条信息将在一周左右后删除。”
目前尚不清楚究竟是哪家服务提供商切断了 “Mr. Deepfakes” 网站的服务。但，研究人员指出，深度伪造创作者要持续制作这类内容，“最关键的要素” 之一是通过谷歌 Colab 笔记本提供的 “免费层级的云 GPU 访问权限”。
不过，谷歌方面暂时尚未对于媒体提出的“最近是否取消了该访问权限”这一问题作出回应。
Mr. Deepfakes 网站的倒闭正值美国国会通过《删除法案》之后 —— 该法案规定，创建和传播未经同意的私密影像（NCII）属于违法行为，其中包括由 AI 生成的合成私密影像。任何收到有关 NCII 通知的平台必须在 48 小时内将其删除，否则将面临美国联邦贸易委员会的执法行动。执法行动要到明年春天才会开始实施，但该服务提供商可能是因为这项法律的通过而封禁了 “Mr. Deepfakes” 网站。据《连线》杂志报道，去年，在英国宣布有意通过类似法律后，“Mr. Deepfakes” 网站就抢先开始屏蔽来自英国的访问者。
不过，“Mr. Deepfakes” 网站的关闭并不能解决深度伪造问题。2022 年，随着 AI 技术使合成的 NCII 愈发逼真，深度伪造内容的数量急剧增加，这促使美国联邦调查局在 2023 年发出警告，提醒公众这类虚假内容正愈发频繁地被用于性敲诈行为，但社会用来阻止其传播的即时解决方案却收效甚微。
据研究人员称，“Mr. Deepfakes”（一个真实存在的人，身份匿名，但据报道是多伦多一名 36 岁的医院工作人员）开发的程序推动了深度伪造内容的激增。研究人员发现，他开发的 DeepFaceLab 软件迅速成为 “领先的深度伪造软件，据估计，95% 的深度伪造视频都是由这款软件制作的，且该软件在 GitHub 上已被复制了 8000 多次”。对于普通用户来说，他的平台上有可供购买的视频，如果视频制作得很逼真，价格通常会超过 50 美元；而更有积极性的用户则会通过论坛提出要求，或者提升自己的深度伪造技术，成为创作者。
“Mr. Deepfakes” 的非法交易最早始于 Reddit，但在 2018 年被封禁后，就转移到了他自己的平台上。在那里，数千名深度伪造创作者分享技术知识，研究人员去年指出，“Mr. Deepfakes” 网站的论坛最终成为了 “制作深度伪造色情内容的唯一可行的技术支持来源”。
由于之前已经迁移过一次，这个群体应该还是会通过新的平台来继续制作非法内容，且“Mr. Deepfakes” 似乎想避开公众的关注，因此可能会以一个新的名字重新出现。据悉，早在 2023 年，研究人员估计该平台有超过 25 万名成员，他们中的许多人可能会迅速寻找替代平台，甚至尝试搭建一个替代平台。
“Mr. Deepfakes” 的恐怖统治可能还未结束，这一可能性进一步增加，因为 DeepFaceLab 在 GitHub 上的存储库（已于 11 月存档，无法再进行编辑）仍然可供任何人复制和使用。
404 Media 报道称，许多 “Mr. Deepfakes” 网站的成员已经在 Telegram 上取得了联系，据报道，在 Telegram 上也经常有合成 NCII 的交易。加州大学伯克利分校的教授、数字伪造图像领域的顶尖专家汉尼・法里德表示：“虽然这次关停是一个好的开始，但类似这样的平台还有很多，所以我们不能就此止步。”
（举报）