文章总结： 该报告揭示AI驱动的网络攻击进入新阶段，利用数字信任滥用实施自主欺诈。案例包括间谍活动中AI代理处理80%-90%任务、PromptSpy恶意软件读取屏幕、深度伪造电话诈骗2500万美元转账及双击窃取攻击。建议通过独立渠道验证高价值支付请求，实施防钓鱼身份验证、持续风险暴露检查及敏感文档加密，并审查异常设备行为。
综合评分： 85
文章分类： AI安全,威胁情报,恶意软件,网络安全
人工智能驱动的网络攻击进入新阶段，出现自主欺诈和数字信任滥用现象
Rhinoer
Rhinoer
犀牛安全
2026年10月2日 00:00
北京
在小说阅读器读本章
去阅读
在公众号小说中沉浸阅读
网络攻击越来越倾向于利用用户熟悉的操作：登录、批准付款或使用受信任的应用程序。人工智能可以帮助攻击者快速重复这些操作，使得金融欺诈和网络入侵更难在造成损失之前被发现。
这些威胁形式多样。有些威胁会自动执行部分网络入侵操作，有些威胁会在视频通话中模仿高管，有些威胁会隐藏在移动应用程序中，还有一些威胁会在合法的结账页面上放置虚假的支付表单。
共同的弱点是对看似正常的互动中错置的信任。这些攻击需要持续检查身份和行为，而不仅仅是信任登录信息。
该报告将间谍活动、移动恶意软件、欺诈和勒索行为归为一类，而不是描述一种新的恶意软件家族。其后果包括手机数据和支付信息被盗、巨额欺诈性转账以及声誉受损。
Trellix 在一份与网络安全新闻 (CSN) 分享的报告中表示，攻击者利用自动化来调整其方法，因此，逼真的屏幕或可识别的声音可能不再足以保证请求的真实性。
自主攻击利用数字信任
据报道，在与某国有关联的GTG-1002间谍活动中，人工智能代理处理了80%到90%的行动任务。人类操作员做出大约四到六项关键决策，包括目标选择和数据窃取授权，而软件则承担了大部分工作。
该案例表明，当攻击者将常规步骤委托给软件时，入侵速度会加快。此前关于人工智能主导的间谍活动的报道描述了该活动如何利用自动化侦察、凭证窃取和漏洞利用开发来攻击多个行业的目标。
在手机上，PromptSpy 展示了人工智能更为狭窄但却实用的应用。这款安卓恶意软件会读取设备屏幕上的内容，并请求与之交互的指令。它不再依赖固定的按钮位置，而是能够根据所看到的界面调整自身的操作。
它利用辅助功能权限来保持应用运行，并在可能阻止或移除它的控件上覆盖不可见的图层。我们关于 PromptSpy 移动恶意软件的报告解释了它如何捕获屏幕活动和锁屏信息，从而使攻击者能够获取敏感的个人数据。
Trellix建议，如果应用的覆盖层阻碍了正常的卸载程序，应限制辅助功能权限并使用安全模式来移除该应用。对于企业而言，更广泛的经验教训是，安全团队应该审查异常的设备行为，而不是想当然地认为熟悉的界面就意味着设备本身是安全的。
诈骗往往隐藏在人们熟悉的行为背后
深度伪造电话可以将一次例行审批变成代价高昂的错误。Trellix 描述了一个案例：伪造的公司领导视频和音频说服了一名财务员工批准了一笔 2500 万美元的转账。来电者看起来符合预期的管理层级。
此类骗局利用了人们急于向高层汇报的压力。此前关于深度伪造商业诈骗的报道表明，仅凭电话中的人脸或熟悉的声音并不能判断付款请求的真伪。
在线结账攻击利用了另一种熟悉感。在双击窃取攻击中，虚假的支付表单会先窃取银行卡信息，然后看似失败，将购物者引导至真正的表单。最终的购买仍然可能成功，因此之前的盗窃行为很容易被忽略。
这种模式在关于双击盗刷的报告中有所探讨，在这种盗刷中，虚假的结账页面会将购物者引导回合法的支付流程。Trellix建议进行模拟结账测试和定期门店审核，以便在顾客遇到问题之前发现任何中断或未经授权的表单。
该报告还讨论了 LunaLock，称其利用人工智能在被盗数据中查找敏感信息，并加大勒索力度。
Trellix 报告称，该组织入侵了与艺术家市场相关的 95,000 多个帐户，这凸显了即使系统恢复后，泄露的文件仍然可能是一个问题。
对于高价值支付，Trellix 建议通过单独的、已建立的渠道（例如回调或预先安排的代码）来检查请求。
报告还敦促采取防钓鱼身份验证、持续进行风险暴露检查以及对敏感文档进行加密等措施。这些措施旨在检验操作本身，而不仅仅是请求操作的身份。
信息来源：CyberSecurityNews
免责声明：
本文所载程序、技术方法仅面向合法合规的安全研究与教学场景，旨在提升网络安全防护能力，具有明确的技术研究属性。
任何单位或个人未经授权，将本文内容用于攻击、破坏等非法用途的，由此引发的全部法律责任、民事赔偿及连带责任，均由行为人独立承担，本站不承担任何连带责任。
本站内容均为技术交流与知识分享目的发布，若存在版权侵权或其他异议，请通过邮件联系处理，具体联系方式可点击页面上方的联系我。
本文转载自：犀牛安全 Rhinoer
Rhinoer《人工智能驱动的网络攻击进入新阶段，出现自主欺诈和数字信任滥用现象》