近日，演员温峥嵘的分身同时出现在多个直播间，身着不同服装带货，神态自然、语气逼真，几可乱真。事实上，这些所谓的直播皆由AI伪造。不法商家盗用旧素材或利用AI换脸技术，生成虚假视频进行带货。主持人李梓萌、奥运冠军、专家教授等公众人物也多次被AI克隆，成为推销劣质产品的代言人。

今年9月施行的《人工智能生成合成内容标识办法》，原本意在通过强制标识让AI内容自证身份，防止虚假与误导。然而在现实中，不法商家轻易规避监管，将标识藏于角落、缩小字体、甚至通过算法去标识化处理，让普通消费者难以辨别真伪。

对受害者而言，AI造假的维权过程异常艰难。要证明内容为AI生成，不仅需要专业取证技术，还要面对漫长的司法流程。而在案件审理期间，侵权视频可能早已广泛扩散，形成“先伤害后追责”的困局。

破解AI造假困局，需要三方面合力，首先是监管层应提升执法技术水平，强化AI内容识别和追踪手段，加大违法惩处力度；其次是平台要承担更多主体责任，构建从生成、审核到追责的全链条防护体系；同时公众也需提升媒介素养，学会辨识AI内容，减少误信误传。

只有当技术被制度约束、平台自觉履责、公众理性参与，AI才能真正成为推动社会进步的力量，而非造假的利刃。（文/薛景烁）