旧金山要求苹果和谷歌从应用商店下架“裸化”应用

美国旧金山市已要求苹果和谷歌从其应用商店下架数十款“裸化”应用，这类应用可通过数字技术修改图片，将人物“脱衣”。根据加利福尼亚州法律，任何“故意促进”或“鲁莽协助”制作非自愿深度伪造色情内容的行为均属犯罪。2025年，加州还通过一项法律，允许受害者对这类材料的第三方促进者提起民事诉讼。旧金山市称，尽管存在这些众所周知的法规，苹果和谷歌仍继续托管此类程序并从中获利。旧金山市检察官David Chiu在给TechCrunch的电子邮件声明中表示：“苹果和谷歌通过生成非自愿私密深度伪造内容的应用剥削女性和女孩并从中获利。虽然两家公司与一些有问题的应用断绝了关系，但苹果和谷歌有责任积极警惕地防止性虐待。”Chiu办公室发给谷歌和苹果的信函指出，两家公司“已收到通知”，知道自己“近一年来一直在为非法购买处理支付”，但仍继续这样做。信函称，两家公司已多次收到关于托管这些应用的警告。今年1月和4月，科技透明度项目（TTP）发布报告并致函两家公司，指出其应用商店中有“数十款应用”通过它们处理的支付“销售深度伪造非自愿私密图像（NCII）”。TTP 4月的报告称，谷歌和苹果故意“引导”用户使用此类应用，并将两家公司称为“传播可将真人转化为性化图像的AI工具的关键参与者”。此外，Chiu向《连线》杂志表示，两家公司可能从提供此类服务的应用中赚取了“数百万美元的费用”。Chiu办公室的信函警告，苹果和谷歌可能因违反法律面临民事处罚，并要求它们在28天内与该市联系。TechCrunch已联系苹果和谷歌寻求评论。深度伪造色情内容主要困扰女性名人，但“裸化”应用使得任何拥有公开照片的人都可能成为目标。