央视曝光的AI数字人“苦命男孩小海”，揭开了当下短视频领域一道值得警惕的伤口。一声声亲昵的“姨姨妈妈”，一段教室啃馒头的演绎，让不少中老年网友动了恻隐之心，更有七旬老人信以为真，独自踏上千里寻人的列车。不少不法分子心存侥幸，以为披着AI数字人的外壳，幕后操盘者就能隐匿在代码背后逃脱责任。可现实恰恰相反，AI不过是一层伪装，背后是分工明确的运营团队与完整的牟利链条：编造悲惨身世、刻意制造误导、诱导网友打赏消费，屏幕里并没有真实受苦的少年，只有算法精心炮制的悲情剧本。AI技术本应是丰富网络内容的工具，如今却被异化为收割善意的利器。比起骗局本身，更值得深思的，是技术滥用背后的情感缺口、监管漏洞与社会课题。

透过这场骗局，我们更要读懂背后真实的情感渴求。大家愿意为屏幕中虚构的人物牵挂、慷慨解囊，甚至不惜跨地奔赴相见，不只是网络辨别能力有限，更折射出部分群体在现实生活中的情感空巢。当现实陪伴有所缺失时，他们便转向短视频的虚拟世界寻找情感寄托，而这份质朴柔软的温情，恰好被不法分子精准捕捉、肆意利用。

打击AI卖惨骗局等消费公众善意的不法行为，需要多方共同努力，刚柔并济护航数字技术向善而行。

一方面要做好刚性管控，加强治理AI虚假悲情乱象。监管部门要拧紧技术监管的阀门，压实平台主体责任，建立AI虚拟人设内容识别预警机制，对刻意编造苦难身世、博同情诱导打赏的账号做到早发现、早拦截、早处置；溯源追查幕后运营团伙，斩断脚本制作、AI生成、流量推流、收割打赏的黑色利益链条，依法从严追究相关人员法律责任，破除“AI外壳就能隐身免责”的侥幸幻想。平台要升级内容审核模型，给AI生成的虚拟人物内容打上清晰醒目的标识，完善打赏风控，设置打赏额度提醒、风险弹窗提示，一旦发现异常大额打赏及时介入预警。

另一方面要做好柔性滋养，补齐中老年群体精神需求。家庭要多放下手机，多倾听长辈的内心诉求，多聊天陪伴，填补老人的精神孤独；社区可以把数字课堂搬进小区楼栋，开展接地气的反诈科普，用案例讲解、情景模拟的方式，拿“苦命男孩小海”这类真实骗局现身说法，手把手教老人分辨AI换脸、虚拟人设套路，练就网络辨别力。主流平台也要主动调整内容供给，多推送真实暖心的生活故事、适合中老年人的文娱科普内容，用实实在在的人间温情，对冲刻意编排的虚假悲情剧本。技术可以造出千万个虚拟“小海”，但填补老人内心空缺，终究要靠现实社会实实在在的温度。

屏幕之上，十几秒短视频便可演绎一出苦情大戏，网络治理，却需要多方协同、久久为功，才能织密严密的防护网。AI可以虚构故事情节，但人间善意绝不能被肆意消耗，虚拟人设能够批量生成，但法律责任绝不允许隐身逃逸。我们既要绷紧监管之弦，斩断借AI收割善意的黑色产业链，也要正视骗局背后的社会现实，守护普通人珍贵的恻隐之心，推动技术向善，让网络空间守护人间真情，让AI成为传递大爱的载体。

作者：武博文

责编：卜文章

来源：区委宣传部