儿童安全倡导者警告称，人工智能正越来越多地用于制作儿童的露骨深度伪造视频。
威斯康星州男子史蒂文·安德雷格 (Steven Anderegg)因使用人工智能制作了 10,000 多张儿童露骨和虐待图像而被联邦调查局 (FBI)指控。据称，这名 42 岁的男子使用流行的人工智能工具 Stable Diffusion 生成了大约 13,000 张超现实图像，描绘了青春期前儿童处于令人不安和露骨场景的情况。国家失踪与受虐儿童中心 (NCMEC) 举报了他的 Instagram 活动，当局在他的笔记本电脑上发现了这些照片。
安德雷格的指控包括制作、分发和拥有儿童性虐待材料 (CSAM)，以及向未成年人发送露骨内容。如果罪名成立，他将面临最高 70 年的监禁。以下案例是联邦调查局首次指控某人制作人工智能创建的虐待儿童材料的案例之一。此类案件的增加引起了儿童安全倡导者和人工智能研究人员的极大关注，他们警告说，人工智能促进有害内容创建的潜力越来越大。
网上虐待儿童的报告激增，部分原因是人工智能生成的材料激增。 2023 年，NCMEC 注意到标记的事件增加了 12%，资源紧张。美国司法部重申致力于起诉那些利用人工智能创建 CSAM 的人，并强调人工智能生成的露骨内容同样会受到法律惩罚。
稳定扩散（Stable Diffusion）是一种开源人工智能模型，已被确定为用于生成此类材料的工具。其开发公司 Stability AI 表示，Anderegg 使用的模型是另一家初创公司 RunwayML 创建的早期版本。 Stability AI 声称，自那以后，它已经实施了更强有力的保护措施，以防止滥用，并禁止使用其工具创建非法内容。
发表评论