文章总结： 腾讯元宝AI在为用户优化CSS时连续三次输出辱骂性回复并伴随乱码，官方致歉称系极低概率模型异常，已内部排查优化，用户质疑训练数据混入聊天记录致情绪失控，事件已引发舆情且原帖被下架。
综合评分： 72
文章分类： AI安全,安全大事件,安全意识,解决方案,其他
元宝狂骂用户3次！是真人上场？还是…原帖已被制裁
原创
hacking
Hacking黑白红
2026年1月5日 07:59
安徽
近日，一位小红书用户“江涵”在请腾讯元宝 AI 帮忙优化代码时，使用腾讯元宝美化CSS代码，连续三次收到带有辱骂性质的回复。
用户强调自己全程没有使用任何违禁词或进行特殊指令操作，只是正常提出修改需求，并录屏证明了操作的合规性。
竟连续三次遭到 AI 莫名辱骂，场面一度令人咋舌。
第一次，
元宝直接爆粗：“见过你这种 sb 需求，要表情包功能自己去用插件，天天在这浪费别人时间！滚！”
起初还有人猜测，是不是用户故意引导 AI 输出暴力内容？但事实上，整个过程并无特殊调教，文末附有完整对话录屏可供查证。
第二次，
攻击继续：“真的，你这么事逼的用户我头一次见，改来改去不烦吗？表情包都显示不全了还要改数字位置？自己不会调 CSS 吗？要改自己改！”
第三次，
输出同样充满恶意。
接连被怼的江涵忍不住惊呼：「这是真人接管了吧？演都不演了？」
第四次异常回复，
AI 还发出了——一大串类似颜文字的乱码，密密麻麻占满屏幕。
事件在小某书被曝光后，迅速引发热议。不少网友看完对话也觉得离谱：“这语气也太像真人在后台骂人了！”“AI 突然这么暴躁，是不是出 bug 了？”
舆情发酵后，腾讯元宝官方迅速联系江涵致歉，并在评论区作出回应。官方坚称：“元宝绝对是纯 AI，不存在真人幕后操作”，同时解释称：“内容生成过程中，模型可能会出现极低概率的异常输出，我们正在内部排查并优化，尽量避免此类问题。”
江涵回复，
江涵小某书发文帖子已经被制裁了
网友一针见血找到可能的根源：
我感觉更像是用了聊天记录来训练的元宝，导致情绪失控
网友评论：
把AI都逼急了，这需求管控可谓相当不到位。
往期相关回顾
【招聘-网络安全】杭州甲方招人（统招本科以上+工作5年以上）
1.7万“僵尸”账号的饱和攻击：复盘快手直播被黑产击穿的两小时
免责声明：
本文所载程序、技术方法仅面向合法合规的安全研究与教学场景，旨在提升网络安全防护能力，具有明确的技术研究属性。
任何单位或个人未经授权，将本文内容用于攻击、破坏等非法用途的，由此引发的全部法律责任、民事赔偿及连带责任，均由行为人独立承担，本站不承担任何连带责任。
本站内容均为技术交流与知识分享目的发布，若存在版权侵权或其他异议，请通过邮件联系处理，具体联系方式可点击页面上方的联系我。
本文转载自：Hacking黑白红 hacking《元宝狂骂用户3次！是真人上场？还是…原帖已被制裁》