“应建立负样本库。”
有个上市公司老总手捧鲜花，说这辈子没啥遗憾，就等我，问我愿不愿意跟他走。翁瑶的妈妈兴奋地跟她分享这段经历。这种“霸道总裁爱上我”的桥段已经困扰翁瑶数月。翁瑶的妈妈今年68岁，二十多年前离异，平日消遣爱刷短视频。起初，翁瑶并未过多干预，但去年11月起，她逐渐发现妈妈不对劲。妈妈总是频繁提及有富商想跟她在一起，接过手机后才发现，妈妈的短视频账号已被“AI霸总”攻陷。
检索多个短视频平台发现，这类“AI霸总”实质上是AI数字人。在视频中，他们通常身处富丽堂皇的会客厅、办公室，展现出儒雅、深情款款的形象。这些视频通过添加“帅气大叔”“黄昏恋”等标签，被精准推送给缺乏情感关照的中老年女性。这些“AI霸总”瞄准老年群体，背后藏着带货、诈骗等多重陷阱。全国人大代表李秋建议，为推动银发经济高质量发展，应严打欺诈、诱导老年人下单等行为。
“姐姐，明天我就要走了，心里很舍不得你”“姐姐，你摸着良心说，我到底帅不帅”。类似的台词不断从姜小星奶奶的手机中传出，一度让姜小星觉得“脑壳疼”。但姜小星的奶奶却乐此不疲。“帅，你太帅了。”姜小星奶奶对着手机屏幕里的“AI霸总”，隔空比出“点赞”的手势。姜小星说，奶奶关注了三四十位画风雷同的“AI霸总”。这样的视频，奶奶可以从早刷到晚。
老年人对于“AI霸总”的痴迷程度不止停留在“养眼”。在这类视频中，“AI霸总”往往会释放出求偶信号，“共度余生”“找个疼你的人”等都是常见的话术。视频的评论区则汇集了大量老年人的真诚回应。有人会回复“好啊，等你来找我”，也有人实诚地表示“帅弟弟，我是普通人，年纪很大了，配不上你”。尽管已向奶奶多次解释视频的公共属性，但每当奶奶刷到“AI霸总”视频，她总会认为那些话术是“AI霸总”向自己释放的专属爱意。一个月前，奶奶还提到要去外地与一位“AI霸总”奔现，被家人及时劝止。
用AI当着她的面做了一个视频，但还是劝阻无效。罗珊珊告诉《中国新闻周刊》，两个月前，她的奶奶刷到了一条“AI霸总”的视频。“AI霸总”在视频里说，礼物到门口了要去拿。老人大半夜的就去了。老人本身有基础病，后来得了重感冒。想要浇灭“AI霸总”与老年人之间的“火花”并不容易。罗珊珊给《中国新闻周刊》提供的截图显示，短视频平台首页给奶奶推荐的4条视频中，有3条都是“AI霸总”视频。罗珊珊尝试过取消关注、刷到视频就点“不感兴趣”等方法，但效果不佳。
北京红飒律师事务所主任律师黄启瑞指出，这类视频本质是利用AI合成的霸总形象，给中老年女性提供情绪价值，然后激发这一群体非理性消费或投资行为，进而实现骗财、敛财。
《中国新闻周刊》在短视频平台检索发现，为积累私域流量，部分“AI霸总”账号会建立专属粉丝群。记者进入了4个百人以上的粉丝群，这些群聊消息更新频率很快，“AI霸总”每天都会在粉丝群中分享直播链接，诸多中老年女性在其中踊跃互动。记者点进一个名为“建国情感”的“AI霸总”直播间后发现，该直播正打着“AI霸总给你送礼物”的名义，推销一款售价为59.9元的“武财神招财令挂件”，商品销量已达3.9万件。
还有“AI霸总”直接在商品销售页面的视频中演起苦情戏。在一个售价99元的女士手镯销售页面中，一位“AI霸总”动情地讲述道：“姐姐你快过来，我们差点就陷入阴谋，万劫不复……如果不是我开公司，想接你回家过好日子，我妈和小海也不会吃这些苦，受这些罪……”
这类以带货为目的的“AI霸总”视频，通常由商家外包给专业视频制作团队生产。某电商平台上的某视频制作团队成员告诉记者，团队专业接商单，包括与跨境电商合作。报价方面，1分钟以内的视频，代做1个50元；代做50个，每个视频40元；代做100个视频则单价降到30元。
不少“AI霸总”背后由婚恋机构运作。记者以中老年女性身份，按照链接卡的提示添加了贵州某婚恋服务公司的企业微信。对方回复：“姐姐，我们是大哥的红娘，你要在我们这边花980元办会员，才能跟大哥联系。”
为了进一步了解这类“AI霸总”视频的生成、发布流程，记者用生成式AI创作平台先后制作了3个10秒的“AI霸总”视频。在某平台上传“AI霸总”角色图片后，系统自动识别匹配了“成熟总裁”的音色。设定完说话内容、动作描述，6小时后，记者得到了一个像模像样的“AI霸总”视频。另一App生成的“AI霸总”视频，耗时短至2—3小时。
随后，记者在某短视频平台注册了一个全新账号，用以测试制作好的3个“AI霸总”视频。不到18小时，账号收获了500多位粉丝，3个视频中，浏览量最高的达1.2万，较低的也已超过5000。同时，记者收到了中老年女性的大量评论、私信，有的在私信中向记者透露了生日、年龄等信息。
实际上，记者发布的“AI霸总”视频并不完美。在其中一个视频的制作过程中，记者设置了“缓缓掏出钻戒”的精细指令，而生成的“AI霸总”在完成这一动作时仅拿起钻石，将戒托留在了戒指盒中。但视频发布后，这一不合常理之处并未被指出。
依据多位受访家属的讲述，在老龄化社会，中老年人的情感需求普遍存在。罗珊珊说，没能约束奶奶看短视频的原因也较令人心酸，奶奶不识字，在农村的娱乐活动非常有限。家里的年轻人也没有经常陪伴在身边。看短视频是她和爷爷为数不多的消遣方式。
数据也佐证了这一点。2024年10月，由民政部等共同组织发布的《第五次中国城乡老年人生活状况抽样调查基本数据公报》显示，2021年，我国老年人生活在空巢家庭（包括独居家庭、仅与配偶居住家庭）的比例为59.7%，较2010年上升10.4个百分点。
一些场合下，“AI霸总”的出现只是“主打一个陪伴”。日前，记者点进某个“AI霸总”直播间，看到一位奶奶边包饺子，边与“AI霸总”连麦聊天。直播间的“AI霸总”开了语音，其音色是一个带地方口音的中年真人男声，与此前发布的AI视频里的声音完全不一样，但此时，“AI霸总”是谁似乎已不重要。
为什么中老年人容易“中招”？快思慢想研究院院长田丰分析称，一方面，中老年人作为AI时代下的“弱势群体”，更容易相信“眼见为实”；另一方面，2023年起，AI数字人在短视频赛道被大量运用，当其被滥用于黑灰产，在评论区不断有人造势的情况下，老年人出于从众心理更容易上当受骗。
黄启瑞指出，因相信“AI霸总”视频遭遇财产损害，维权困难的原因在于当前生成式AI的技术门槛较低。一旦被骗，受害者因缺乏取证技术及工具，难以独立完成证据收集，证据链无法形成闭环。如果委托律师维权，又要承受高昂的维权成本。
检索短视频平台发现，当前大多数“AI霸总”视频都标有“内容由AI生成”字样，但仍有少量视频缺乏标识。值得注意的是，这类标识往往通过一行小字的形式出现在视频左下角，难以对用户起到显著提示作用。
依据国家网信办2022年11月颁布的《互联网信息服务深度合成管理规定》，深度合成服务提供者提供人脸生成、姿态操控等人物图像、视频生成编辑服务时，可能导致公众混淆或者误认的，应当在生成或者编辑的信息内容的合理位置、区域进行显著标识。
田丰告诉《中国新闻周刊》，当前，仍存在一些不法团队通过对国外的开源工具进行修改，使生成的视频产品缺乏AI标识。黄启瑞认为，在这一问题上，短视频平台应加强对视频内容的监测过滤。
近日，记者向某短视频平台客服咨询“AI霸总”视频管理、屏蔽相关事宜。客服回应称，平台会持续优化推荐和标注机制，若刷到不喜欢的视频，用户可通过长按视频，点击“不感兴趣”按钮，或通过“屏蔽设置”为不喜欢的内容添加屏蔽词，系统会根据用户反馈减少相关内容推荐。
田丰建议，AI视频生成模型应建立负样本库。希望这类模型去预训练一些负面样本，使模型能第一时间识别诈骗、黑灰产等用途的不良素材和指令，直接从源头上阻止不良视频的生成。
股票在线配资门户网提示：文章来自网络，不代表本站观点。
- 上一篇：在线股票配资官网大多在几百元到上千元不等
- 下一篇：没有了
