在监管空白地带野蛮生长,商家提供定制化AI换脸一条龙服务

据工人日报,近日,“AI换脸”技术被滥用的相关消息引发网友热议。除了被应用于电信诈骗,“AI换脸”还常被用于影视剧二次创作、趣味恶搞小视频,甚至成人影像的合成中,而在网络上有商家提供各类“换脸服务”。律师指出,从娱乐“玩梗”到违法犯罪,藏在“面具”背后的用户若对该技术不当使用,会承担多项法律责任。

记者调查发现,获取这类AI换脸软件非常容易。一是各类App和小程序,充值后可解锁新模板,用户只需一键上传照片,15秒内即可生成对应模板的换脸视频。二是网上有商家售卖“AI换脸”与教程的一条龙服务,整套费用3500元。商家称“只需要提供一段人脸视频,3到5天就可以训练出一套高清定制模型,以后直播可以随便用”。同时,其还能提供明星换脸的素材,包教包会。

在监管空白地带野蛮生长,商家提供定制化AI换脸一条龙服务

总的来说,AI换脸技术上不存在什么门槛或难点,只是以实现难度为标准制定服务价格。免费的、便宜的移动端应用主要提供固定模板服务,面向尝鲜用户;收费高的则提供个性化、定制化服务,面向有特殊需求的深度用户。

工具与技术本身并不涉及好坏、善恶等价值判断,关键还是要看什么人用和怎么用。目前,部分社媒平台、短视频平台,甚至是拍照类App都会提供一些简单基础的AI换脸功能,以提升其趣味性、吸引并年轻用户粘性,也就是增强流量属性,追求商业价值。当然,在某些视频平台中,也有部分创作者对影视剧综等视频内容,进行玩梗整活式的换脸二创,或单纯为了好玩,或为了流量变现,也无可厚非。但与此同时,在不法分子、心术不正之人的手中,AI换脸就变成了伤害他人的利器。

除了可能会造成侵权外,AI换脸技术滥用同样还涉及未做明确标识、以假乱真、传播假新闻/假信息/谣言等问题,而这些都需要有关部门与网络平台所共治。

发表评论