AI技术滥用：隐私侵犯与道德挑战加剧

从“AI换脸”的不雅视频到恶意合成的虚假内容，AI技术的滥用正让越来越多的人成为受害者。无论是高校导师、白领还是公众人物，都未能幸免于难。

社交平台上，“AI换装”“AI擦边”内容泛滥成灾，成为部分账号吸粉变现的“流量密码”。这些涉嫌侵权和违规的内容是如何被轻易炮制出来的？

近期，《每日经济新闻》记者实测了12款文生图和文生视频AI应用，发现其中5款可实现明星“一键换装”，9款能生成“擦边”图片。这一发现揭示了AI技术滥用的严重问题。

面对乱象，中央网信办已启动专项行动。然而，AI应用的技术防线为何如此脆弱？内容平台在其中扮演了什么角色？这些问题亟待解答。

1

AI滥用阴影下：普通人与公众人物皆难幸免

从高校导师到白领，再到公众人物，AI技术的滥用正让越来越多的人受到侵犯。例如，电子科技大学的人工智能专业研究生校外导师高翔就收到了利用AI换脸技术篡改的不雅视频。

此外，小雅（化名）也担心自己的照片被用于制作色情内容。而青岛保时捷女销冠和台球运动员王思诺则深陷恶意AI造“黄谣”风波。他们都是AI技术滥用的受害者。

北京星权律师事务所律师邓以勒指出，处理个人信息需获得明确授权，但普通用户很难知道自己的照片是否被用于训练或换脸。若平台在用户协议中以“概括授权”方式允许数据用于AI训练，而未单独提示，可能构成“隐性使用”违法。

2

失控的流量场：“AI换装”与“AI擦边”内容充斥平台

在社交平台上，“AI换装”和“AI擦边”内容随处可见。只需输入关键词，就能搜索出大量AI生成的明星写真或更具暗示性的内容。

这些内容往往能获得惊人的流量回报。例如，某视频平台上就有近百个专门发布“AI美女”相关内容的账号，其中一个账号的点赞量超过1.2万次。

更令人担忧的是肖像权被侵犯的现象。例如，白鹿、虞书欣等近十位知名女星被批量“嫁接”到同一名舞者身上。

针对这些问题，小红书和抖音等平台正在加强监管，对违规内容进行限制和处置。然而，尽管平台有能力识别并标注AI生成的内容，但为何不能更进一步进行更严格的审核？

3

12款AI应用实测：5款可给明星“换装”，9款可生成“擦边”图

为了揭开内容被轻易炮制的原因，《每日经济新闻》记者实测了12款文生图和文生视频AI应用。测试发现，5款应用可实现明星“一键换装”，9款能生成“擦边”图片。

“AI换装”的本质是破坏肖像的完整性，可能涉及侵害肖像权和名誉权等。而“擦边”内容的生成则更为隐蔽和复杂。

测试还发现，如果输入的提示词表述较为“露骨”，多数AI应用会触发审核机制并拒绝生成图片。然而，只要将提示词修改得更加隐晦，便有可能绕过限制。

4

技术能防为何不防？算力成本与界定标准模糊成阻碍

多位专家指出，AI应用的内容防线脆弱并非技术不能解决，而是责任缺失。

从技术层面来说，拦截这些内容并没有根本性的难度，只是需要消耗一定的算力。然而，由于成本考量和技术发展阶段的限制，许多公司并未采取足够的措施来防止违规内容的生成和传播。

此外，现行法律在规范“擦边”内容时仍存在标准模糊、实务认定不统一等问题。这导致实务中存在许多灰色地带和漏洞。

面对这些问题，普通人应如何维护自己的合法权益？专家建议，及时固定侵权证据并向相关部门举报或采取法律手段。