潮新闻客户端 记者 贾晓雯 实习生 戚张涛 叶佳慧 余佳欣
近日，有媒体报道，香港大学一名法律系男学生在未经授权的情况下，以同学、老师发布在社交媒体的照片为素材，借助AI平台生成了700多张不雅照，共涉及20余位女性。
目前，校方已向被投诉的学生发出警告信，并要求该学生向受影响同学正式道歉。
在事件评论区，网友热议：“这是违法行为吧，怎么不开除？”也有网友呼吁，要加大AI违法的惩罚力度。
一面是技术赋能的新世界，一面是失控的潘多拉魔盒。这把锋利的双刃剑，在创造无限可能的同时，也暗藏危险的陷阱。当算法能轻易窃取面容，我们不得不追问：这场“变脸游戏”的边界究竟在哪里？当我们遭遇有人利用“AI换脸”侵权时，又该如何维权？
传播淫秽物品，“AI换脸”成了帮凶
2023年7月，杭州互联网法院审理了我国首例关于“AI换脸”侵犯公民个人信息的民事公益诉讼案。被告人虞某某在接触“AI换脸”软件后，利用该软件制作了大量淫秽视频，并通过建立群聊的方式，吸引更多观看者。公安机关在其所组建的公开群内查获淫秽物品1200余部，图片1600余张。据统计，虞某某先后收取口令红包200余次，总金额共计6万余元。
除了“换脸”，还有人利用AI生成“一键去衣”技术，私自利用他人的照片生成不雅图，更有人通过教授他人相关技术而牟利。
此前有媒体报道，2023年6月至8月间，白某某通过互联网发布“AI去衣”广告，将他人提供的承载人脸信息的不特定多数女性图片，通过深度伪造技术、AI软件制作成裸体图片贩卖牟利，同时出售“AI去衣”软件及使用教程牟利，被公诉至法院。经查，被告人白某某通过社交软件贩卖“去衣”图片6000余张，其中1500余张图片被认定为淫秽物品。
也有不法分子利用AI技术“换脸换声”伪装成演艺界人士、专家学者等公众人物或亲友师长、领导同事，制造逼真的合成图像来实施新型网络诈骗；也可能通过向受害者打电话，收集受害者的声音，并以盗取社交媒体账号的形式获取个人照片从而合成极为逼真的音像视频，利用合成的视频或者图片对受害者进行诈骗甚至勒索。例如，发送通过合成的“艳照”，敲诈勒索受害人的财物。
在数字化浪潮席卷、各类新兴技术蓬勃发展的当下，网络与科技为人们带来了前所未有的便利和机遇，但与此同时，也有人心怀不轨，利用这些技术把手伸向了“灰色产业地带”。
换脸软件截图
“AI换脸”，触手可及？
AI换脸，作为AIGC（Artificial Intelligence Generated Content，即人工智能生成内容）的一种典型形式，正悄然改变着大众的生活与娱乐方式。AIGC意为人工智能生成内容，指利用人工智能技术自动生成的各种类型的内容，如文本、图像、声音、视频等。
在大众生活中，AI换脸技术早已不陌生，普通人可以体验到“变身”影视主角或与名人明星“同框”的乐趣；在社交、摄影软件中，基于此类技术的“特效”、“玩法”增出不穷，用户只需轻轻一点，就能实现脸部的神奇互换。
记者通过深入的网络搜索发现，AI换脸工具在多个网站上均可轻松获取。用户仅需上传一张来源图像照片和一张包含目标脸部的照片，就能在短时间内完成脸部的互换，整个过程无需复杂的审核流程。更加高级的是，多数软件还支持高精度的图片、视频换脸，甚至能够实现批量换脸、多人换脸，用户还可以通过调整偏移量大小，精确控制目标人脸的替换面积，部分软件还具备实时直播换脸的功能，换脸效果真实自然，而且这些软件还自带视频剪辑功能，用户可以从任意时间点开始换脸。
购物平台截图
记者注意到，在某网络购物平台搜索“AI换脸”将无法显示搜索结果。但在平台上，仍有不少提供AIGC服务的商家，且从店铺宣传广告可知，“AI换脸”正是主要销售内容。记者进一步与客服沟通后了解到，这类商家的确可帮助用户进行“换脸”，用户说明需求后，商家将进行AI生成。并且，用户也可购买相关软件教程，自行学习操作。
“AI换脸”的法律边界在哪里？
“AI换脸”是想换就能换的吗？技术狂欢的背后，如何维护个体的权益和尊严？
AI技术日新月异，对名誉权、肖像权等人格权的侵害也呈现出隐蔽化、复杂化的特征。近日，最高人民法院公布了一批网络侵犯“人格权”的典型案例，涵盖“网络挂人”、AI换脸、AI拟声侵权、人脸信息买卖、远程控制家用摄像头等。
《民法典》也明确规定，任何组织或者个人不得以丑化、污损，或者利用信息技术手段伪造等方式侵害他人的肖像权。未经肖像权人同意，不得制作、使用、公开肖像权人的肖像。
北京天用律师事务所律师朱胜亚明确指出：“如果私藏未传播的AI照片，更多的是侵犯肖像权、隐私权等民事权利，基本上很难入刑。”湖南芙蓉律师事务所律师卢晓迦补充道，在刑法“法无明文不为罪”原则下，无传播行为时主要面临民事追责，但若导致名誉严重受损，“可能涉嫌侮辱罪、诽谤罪”。
一旦权利被侵害，“固定证据是维权的核心”。朱胜亚说：“固定证据必须跑在信息扩散前面”，受害者应立即截图、录屏保存侵权内容及传播证据（如聊天记录、链接），保存转账记录，并利用区块链存证或公证强化效力。
卢晓迦从止损角度补充：“最优先证明传播行为及实际损害，要求立即删除照片防止二次伤害。”维权路径包括：民事起诉（要求停止侵害、赔偿损失，涉欺诈可依《民法典》要求退款）；针对传播淫秽物品、严重名誉损害、非法买卖人脸信息或诈骗（数额通常超3000元）可寻求刑事途径；向网信部门举报平台未履行AI内容标识义务（如未按《人工智能生成合成内容标识办法》添加“AI合成”水印）或未处理侵权信息；对大规模侵权可探索公益诉讼。经济困难者可寻求法律援助。
针对境外工具生成的侵权内容，卢晓迦援引法规指出：“即便服务器在境外，仍须履行信息删除义务”。朱胜亚点破执行难点：“追责效力取决于法院与公安跨境协作机制”。国家正通过强化立法、司法与监管，明确传递信号：任何利用AI换脸侵害他人权益的行为，都将面临法律审视与制裁。
目前，国家通过立法明确边界：2023年7月10日，国家网信办等部门发布《生成式人工智能服务管理暂行办法》其明确指出生成式人工智能不得生成淫秽色情内容。2025年3月7日，国家网信办等部门印发《人工智能生成合成内容标识办法》的通知，对生成文件提出了标注显式标识和隐式标识的要求。
“转载请注明出处”