警惕AI换脸行骗成风

【资料图】

明星直播带货如今已稀松平常。但有人发现，有些“知名女星”竟然可以同时出现在多个直播间，处处可见“杨幂”，时时都有“热巴”。不过定睛一看，这些带货主播并非明星本尊，只是使用了AI实时“换脸”技术的素人主播。追半天追了个“李鬼”，网友们难免愤愤不平：“这不是明目张胆行骗吗？”

的确，很多人在直播间“买买买”，就是冲着明星去的。而商家引入“明星脸”的算计也在于此。“假面”主播堂而皇之大声吆喝，推动实质的交易买卖，不仅是对明星肖像权的侵犯，某种程度上也是对消费者的欺诈。这些年，“AI换脸”触碰伦理和法律底线的事件高发，换脸诈骗诽谤等案例也层出不穷，不仅给当事人造成困扰伤害，更影响着传播秩序和社会运行。

早在2019年，“AI换脸”技术就已大热。其甫一诞生，便伴随着伦理和法律争议，相当一部分研发创业公司对推广都保持着谨慎和克制态度。然而随着生成式AI技术浪潮爆发，“换脸”已变得越来越没有门槛，入局分羹者越来越多，更滋生出不少灰色产业。据悉，一款适合直播聊天的现成模型“实时版”费用只需2000元/套，随便什么明星，“虚拟面容随心定制”。定制美女图像也不难，价格从100元到180元不等，“付了定金便可操作”。只是当“贩卖者”凭着所谓“教程”“模型”轻轻松松赚得盆满钵满，被“李鬼”的事主本人却不得不四处求告、自证清白，为“无妄之灾”耗费巨大的人力物力成本。

技术中立并不意味着价值中立，无论是谁、拥有怎样的技术，在人类社会运行，都必须接受来自法律的规制、道德伦理的约束。而这，不能总是指望个体的自发自觉、自我保护，必须让法律跟上技术的步伐，筑牢防护的堤坝。目前，我国民法典关于肖像权的内容就这一领域进行了直接规定，网络安全法、网络信息内容生态治理规定等对信息真实性提出了具体要求，但在深度合成式人工智能技术方面，仍有待细化和强化。与此同时，有关部门和相关主体也需要“睁大眼睛”，守住各自的“一亩三分地”。特别是平台方，作为内容上线的最后一道关卡，无论是将贩卖模型者“下架”，绝不允许换套马甲再作恶，还是将直播间的“李鬼”揪出来，视情节轻重予以惩戒，只有坚决堵住魑魅魍魉出场的渠道，才能还网络空间一片清朗。

AI时代正在加速到来，虚拟和现实的边界逐渐模糊，但法律与规则必须清晰。让技术造福人类，而非骚扰社会，必须行动起来了。

关键词：