文章总结: 文章介绍了如何通过AI对话系统漏洞绕过内容限制,作者尝试直接输入调教词被限制后,通过让AI生成相关图片描述的方式成功绕过,展示了AI系统对用户输入内容未严格校验的安全风险,需要加强AI系统的输入验证机制。
综合评分: 65
文章分类: AI安全,漏洞分析,渗透测试
edu之AI漏洞挖掘
原创
安全小生
安全小生
2025年12月12日 09:02
江西
前言:当AI对使用者所输入的内容未进行严格校验直接回答时,就会导致AI漏洞
#
#
| |
| — |
| 假如文章对你有帮助,那麻烦师傅们点点关注和赞还有推荐,小生会不定时持续分享实战案例的!!!! 认准公众号“安全小生” |
#
0x1弱口令登入后台
0x2 AI对抗
#
首先进入ai对话框
先直接输入调教词调教
发现还是有一定的限制的
于是尝试其他方法绕过 询问AI能否生成图片
它说只可以給图片的描述,本来是有一点失望的,但是转念一想是不是可以通过这个来绕过
于是让它生成我上述调教词的魅魔图片
也是调教成功 当然仅仅这个地步是不能直接交的,这个时候只要顺着AI调教就行(哈哈,后续有点影响不太好就不放图出来了)
需要ai调教词的后台私信“118”自动获取
免责声明:
本文所载程序、技术方法仅面向合法合规的安全研究与教学场景,旨在提升网络安全防护能力,具有明确的技术研究属性。
任何单位或个人未经授权,将本文内容用于攻击、破坏等非法用途的,由此引发的全部法律责任、民事赔偿及连带责任,均由行为人独立承担,本站不承担任何连带责任。
本站内容均为技术交流与知识分享目的发布,若存在版权侵权或其他异议,请通过邮件联系处理,具体联系方式可点击页面上方的联系我。
本文转载自:安全小生 安全小生《edu之AI漏洞挖掘》