文章总结： 本文剖析AI在网络安全领域生成技术文章时的幻觉问题,通过案例分析AI生成内容中代码错误、概念混淆、技术过时等问题,阐述幻觉产生的四大原因,提供识别方法和验证清单,并给出正确使用AI做安全研究的建议。核心结论是AI生成内容需人工验证,不可直接使用,建议遵循AI提供思路、人工验证、实际测试、记录反馈的循环流程。
综合评分： 85
文章分类： AI安全,安全意识,漏洞分析,安全建设,实战经验
当AI开始”一本正经地胡说八道”：网络安全领域的幻觉陷阱
原创
油漆工
油漆工
C4安全
2026年3月17日 14:21
江苏
本篇文章非针对某AI、某团体进行具体的批判，仅做研究用途，如有侵权请公众号后台私信联系。
前言
最近看到了一篇《下一代的票据窃取研究》的文章。乍一看，内容极其硬核：
- 内核驱动漏洞利用
- LSASS内存读取
- LOLBins攻击链
- Kerberos票据伪造
- 完整的C/Python代码示例
但当我们深入分析后发现：这篇文章是AI研究生成的且存在大量技术幻觉。
这不是个例。随着ChatGPT、Claude等大模型的普及，AI生成的”伪技术文章”正在安全社区泛滥。它们看起来专业、完整，但细节经不起推敲。
一、什么是”AI幻觉”？
AI幻觉（Hallucination）是指大语言模型生成看似合理但实际上不正确或不存在的内容。
在网络安全领域，AI幻觉主要表现为：
| | | |
| — | — | — |
| 幻觉类型 | 表现形式 | 危害程度 |
| 虚构漏洞 | 编造不存在的CVE编号或漏洞机制 | 高 |
| 错误代码 | 提供无法运行的”示例代码” | 高 |
| 概念混淆 | 混淆相似技术，给出错误解释 | 高 |
| 过时信息 | 引用已失效的技术或已修补的漏洞 | 中 |
| 逻辑矛盾 | 前后描述不一致，前提与结论冲突 | 中 |
二、案例解剖：那篇”幻觉文章”的五大问题
让我们逐层剥开那篇”技术研究”的画皮：
问题1：代码全是”占位符”
文章提供了完整的CVE-2023-21716利用代码：
unsigned char shellcode[] = {
0x48, 0x83, 0xEC, 0x28, // sub rsp, 0x28
0x48, 0x8D, 0x0D, 0x00, 0x00, 0x00, 0x00, // lea rcx, [rip + offset]
0xE8, 0x00, 0x00, 0x00, 0x00, // call PsLookupProcessByProcessId
...
};
真相：0xE8 0x00000000 是相对调用指令，偏移量为0意味着调用下一条指令自己——这是一个死循环，不是有效的shellcode。AI只是”知道”shellcode长什么样，但不知道如何编写真正可运行的代码。
更离谱的是：
HANDLE hDevice = CreateFile("\\\\.\\dxgkrnl", ...)
dxgkrnl.sys是显卡驱动，不是可通过CreateFile访问的设备对象。正确的攻击路径需要通过DirectX API触发，而不是直接打开设备句柄。
问题2：概念混淆，张冠李戴
文章声称：
真相： 影子票据（如果存在这个概念的话）仍然需要krbtgt的NTLM哈希。文章把”不需要从域控实时获取”偷换概念为”不需要krbtgt哈希”，这是两回事。
更严重的混淆：
AS-REP Roasting、Kerberoasting、黄金票据是三种完全不同的攻击技术，文章将它们混为一谈，读者如果照单全收，会形成错误的技术认知。
问题3：技术已过时，却被包装成”前沿”
文章重点强调：
- CVE-2023-21716/21551内核漏洞
- RC4加密降级攻击
- SMB CreateContexts注入
真相：
- CVE-2023-21716/21551是2023年4月的漏洞，Windows 10/11和Server 2016+早已在2023年4月补丁日修复
- Windows Server 2016+默认禁用RC4，加密降级在主流环境不可行
- 现代SMB实现已严格校验CreateContexts，注入攻击在打补丁系统上无效
文章标题写着”下一代”，内容却是”上一代”的技术。
问题4：成功率是”幻觉数字”
文章声称：
| | | |
| — | — | — |
| 维度 | 传统方法 | 内核漏洞利用 |
| 成功率（现代系统） | <10% | >90%（若漏洞存在） |
真相： “若漏洞存在”是一个巨大的前提。在2026年（当前时间），主流企业系统早已打上2023年的补丁。这个>90%的成功率是建立在”目标系统未打补丁”这个不现实的前提上的。
问题5：关键前提被隐藏
文章多次省略关键前提：
| | |
| — | — |
| 原文描述 | 隐藏的前提条件 |
| “仅需本地管理员权限” | 还需关闭驱动签名强制（DSE），重启系统 |
| “无需签名驱动” | 需启用测试模式或使用漏洞加载器 |
| “绕过所有EDR检测” | 只能绕过基于签名的检测，行为分析仍可发现 |
| “内核调试默认启用” | 实际上生产环境几乎全部禁用 |
这些隐藏的前提，决定了技术是否真正可行。AI”知道”这些前提存在，但为了文章的”流畅性”，选择了忽略。
三、为什么AI会在安全领域产生幻觉？
- 训练数据的”污染”
大模型的训练数据包含大量：
- 概念验证（PoC）代码，但未经验证
- 博客文章，存在技术错误
- CTF Writeup，场景局限性强
- 营销内容，夸大技术效果
模型学到了”安全文章应该长什么样”，而不是”正确的内容是什么”。
- 概率生成的本质
AI生成是基于概率预测下一个token：
输入："CVE-2023-21716是一个"
可能输出：["堆溢出漏洞", "类型混淆漏洞", "整数溢出漏洞", ...]
模型选择概率最高的，但概率高≠正确。CVE-2023-21716确实是堆溢出漏洞，但如果问的是CVE-2023-XXXX（不存在），AI仍会”一本正经地编造”。
- 缺乏形式化验证能力
安全代码需要精确性：
- 内存地址不能错一个字节
- 系统调用参数必须正确
- 数据结构必须对齐
AI可以生成”看起来像”的代码，但无法验证代码的正确性。它不知道0xE8 0x00000000会死循环，只知道”调用指令应该长这样”。
- 过度自信的表达
AI生成的文章通常：
- 语气肯定，不使用”可能”、”据信”等模糊词
- 结构完整，即使内容错误
- 引用权威，如”CVE”、”微软官方”，增强可信度
这种”专业范儿”反而降低了读者的警惕性。
四、如何识别AI生成的”幻觉文章”？
快速识别清单
| | |
| — | — |
| 检查项 | AI幻觉文章特征 |
| 代码可运行性 | 代码有语法错误、占位符、死循环 |
| 漏洞时效性 | 引用已修补多年的漏洞，仍称”前沿” |
| 前提完整性 | 关键前提条件被省略或模糊处理 |
| 概念准确性 | 混淆相似技术，张冠李戴 |
| 数据来源 | 没有可验证的引用，或引用不存在 |
| 逻辑一致性 | 前后矛盾，前提与结论冲突 |
| 语气自信度 | 过度肯定，不承认不确定性 |
深度验证方法
# 1. 验证CVE是否存在
searchsploit CVE-2023-21716
# 2. 检查漏洞修补时间
# 访问 https://msrc.microsoft.com/update-guide
# 3. 测试代码可运行性
# 在虚拟环境中实际编译运行
# 4. 查找原始来源
# 安全文章通常有参考链接，AI文章往往没有
“AI味”特征
如果一篇文章：
- 结构完美对称（一二三四，每点字数相近）
- 大量使用表格对比
- 代码示例刚好占满屏幕
- 没有任何个人观点或经验分享
- 引用了技术但没提供复现步骤
那很可能是AI生成的。
五、正确使用AI做安全研究
AI不是不能用，而是要知道怎么用：
AI擅长的事
| | |
| — | — |
| 任务 | AI优势 |
| 概念解释 | 快速获取技术概述 |
| 代码生成辅助 | 提供代码框架，人工修正 |
| 文档总结 | 快速阅读长文档 |
| 翻译润色 | 技术文档语言优化 |
| 思路启发 | 头脑风暴攻击思路 |
AI不擅长的事
| | |
| — | — |
| 任务 | AI缺陷 |
| 漏洞利用代码 | 缺乏环境验证 |
| 技术可行性评估 | 无法判断实际条件 |
| 时效性信息 | 训练数据有截止时间 |
| 安全决策 | 不了解具体环境 |
安全研究的正确姿势
1. AI提供思路 → 2. 人工验证可行性 → 3. 实际环境测试 → 4. 文档记录
↑ |
└────────────────── 5. 反馈修正AI认知 ←─────────────────┘
关键原则：永远不要直接使用AI生成的代码，必须经过人工审查和测试。
附录：常见AI幻觉案例
| | | |
| — | — | — |
| 幻觉类型 | 案例 | 识别方法 |
| 虚构CVE | “CVE-2024-12345是Windows内核提权漏洞” | 查询NVD数据库 |
| 错误偏移 | “在0x12345678处存在缓冲区溢出” | IDA/Ghidra验证 |
| 编造API | “NtQuerySystemInformationEx函数” | 查阅MSDN/ReactOS |
| 不存在的工具 | “使用shadowdump.py提取票据” | GitHub搜索验证 |
| 错误概念 | “PPL保护可以通过注册表关闭” | 微软官方文档验证 |
参考文章：
- 《如何识别AI生成的技术文章》
- 《安全研究的正确姿势：验证胜过信任》
- 《从ChatGPT到Claude：大模型在安全领域的应用与局限》
专业的国内网络安全AI社区平台推荐
https://www.wwlib.cn/
50免费积分兑换码：WUWEN_1u7CcAHUVEb1W9VlVs
兑换地址：https://www.wwlib.cn/index.php/gift
团队内部知识大陆链接如下，折扣优惠中~
#
永久帮会内部技术交流群
✅ 如果你刚刚入门、对挖洞有兴趣却无从下手；
✅ 如果你不想再被割裂的信息、过时的教材所困；
✅ 如果你想在真实环境中练手并与同行共同成长；
那么你一定不能错过「安全渗透感知大家族」。
免责声明：
本文所载程序、技术方法仅面向合法合规的安全研究与教学场景，旨在提升网络安全防护能力，具有明确的技术研究属性。
任何单位或个人未经授权，将本文内容用于攻击、破坏等非法用途的，由此引发的全部法律责任、民事赔偿及连带责任，均由行为人独立承担，本站不承担任何连带责任。
本站内容均为技术交流与知识分享目的发布，若存在版权侵权或其他异议，请通过邮件联系处理，具体联系方式可点击页面上方的联系我。
本文转载自：C4安全 油漆工
油漆工《当AI开始”一本正经地胡说八道”：网络安全领域的幻觉陷阱》