文章总结： 本文探讨开源AI的安全风险，包括漏洞入侵、提示词注入、恶意插件等问题，指出AI在攻防领域的双重作用。文章分析了AI热潮背后的社会心理，揭示企业和个人因掉队恐惧产生的盲目跟风现象，呼吁在技术浪潮中保持清醒，重视人类独有的情感联结与独立判断能力，重新审视人与AI的关系。
综合评分： 72
文章分类： AI安全,安全意识,安全建设
AI安全与社会心理漫谈
原创
tarZ
tarZ
NS Demon团队
2026年3月14日 00:00
广东
本文承诺，文中没有任何一只AI受到伤害
00
前言
不可否认，人工智能浪潮已然势不可挡，它正深度融入人类的日常生活。从国家战略层面来看，在人工智能领域与美国展开竞争与合作，也成为我国科技发展进程中无法回避的重要议题。
然而，这也带来了更多的挑战与思考。
01
开源AI是否真的安全？
传统观点认为，开源意味着代码公开，公众的审查能提升安全性，但对于开源AI、开源大模型来说，其中的训练数据是否真的透明且安全？
龙虾AI（OpenClaw）浪潮席卷的这段时间，从工信部、国家互联网应急中心、或是各家安全厂商发布的种种公告不难说明，开源AI智能体暗含着很大的安全风险，如：安全漏洞带来的入侵风险、提示词注入暗藏后门、恶意的第三方插件带来的信息泄漏隐患、AI幻觉导致的误操作、开放权限过高、配置错误而导致误删除重要文件等，全球有十几万甚至几十万只龙虾在互联网裸奔。这类工具一旦被恶意利用或出现安全漏洞，对用户而言都可能造成无法挽回的损失。
在安全攻防层面，AI既可为矛，也可成盾。
基于AI辅助的漏洞扫描器甚至是AI全自动漏扫工具降低了攻击门槛，攻击者可以通过AI批量生成变种恶意代码、高仿真钓鱼邮件等，实现攻击的智能化、批量自动化的攻击洪流。（但想要AI完全替代安服仔，三五年内是不可能的）。
作为防守方，开源AI可以分析海量日志，提取关键信息、或让AI分析一下webshell的生成工具，使用开源的代码模型对软件进行自动化审计，在流量中检测异常流量等。这些都可以依托于开源模型得以实现。
02
低门槛、高可用？
智能体不同于普通市场上免费的软件，它让AI从聊天机器人进化为执行机器人，这让技术极客到普通市民，都对这技术产生极大的好奇心，从而出现千人排队安装的奇观。
龙虾AI的浪潮，收割了一些技术不通却不希望被AI淘汰掉的人。很多人玩了半天，才意识到，这东西学起来也挺累的，也不知道如何入手，可能花了钱安装了龙虾，又付出了token消耗的成本，最后还要再花钱卸载这个“麻烦的蠢AI”。真是白忙活一场，最后还能沾沾自喜道：“看，我也在浪潮之中。”
云厂商与企业推出的“养虾场”“龙虾大礼包” 等活动，表面是福利与体验，实则既能无偿获取海量训练数据与用户个人信息，又能借此赚得盆满钵满。
低门槛的轻松上手，但这背后是使用者逃避思考，还是追求效率？是所谓的AI赋能，还是制造了新的焦虑和依赖？低门槛意味着权力下放，像从前代码编程、数据分析、文章写作是高墙内的专业技能，现在用一行字就能让AI快速输出结果。通过AI生成图片，制作视频更让非技术背景的普通人，产生一种“有手就行”的错觉。
高可用的完美幻想，当人们仅用一句简单指令就让AI撰写文章、分析问题，或是执行复杂系统操作，而结果不尽如人意时，很多人的第一反应并非审视自己输入的指令是否清晰合理，而是抱怨“这AI怎么这么不智能”。他们没有意识到，AI只是一个工具，人类才是对这工具使用的主体责任人。
03
社会心理
我认为，从公司企业到个人，AI的爆火，与其说是对新技术的好奇，不如说是一场盲目的跟风。号称AI将带来“第四次工业革命”的时代，不会用AI=被淘汰的这种心态，更是一种社会层面的集体焦虑。
在公司层面，商业竞争中最怕的就是“掉队恐惧”，其他公司都在学习AI，提及AI，研究AI，所有高层都不允许自己掉队，一个新技术的出现就必定要安排下属研究评估，于是开始了新的行业内卷。稳定的AI客服不会有情绪，不会和客户吵架，AI质检员不需休息，可以替代重复性的固定工作；提倡公司员工使用AI，或许会提高员工的工作效率，让公司看到了“降本增效”的新玩法。“一定要把AI推广起来！”——在这样的口号下，企业推着员工投身人工智能浪潮，岗位竞聘也更倾向于录用会运用AI的人。然而，并非所有业务都适合融入AI，也并非所有产业都能强行智能化。
资本家手持名为AI的“赶牛鞭”，鞭策着打工人听令跟风、大干快上。而认知与技术的脱节，同样成为阻碍企业发展的绊脚石。
就普通人而言，当出现一个新的AI模型（如豆包语音智能对话、DeepSeek深度思考、千问点外卖、元宝发红包），无数人担心被时代抛弃，他们在不确定自己是否需要AI时候，便跟风下载使用，领取福利潮流过后，就再也不会打开那些对话机器人。于是，当“龙虾”这噱头十足的智能体走红时，不少人根本没想清楚自己是否真的需要一款能操控电子设备的AI助理，就盲目跟风涌入。他们甚至连token是什么都不清楚，只是被热度裹挟着往前冲。
诚然，通过对话就能让AI自动执行任务的技术确实极具吸引力，它让我们窥见了“人机协同”工作模式的雏形。但我认为，在技术真正成熟、足够易用之前，我们不妨保持好奇与关注，同时守住清醒与审慎。
我想请各位思考一个问题：
当下，究竟是我们在使用AI，还是AI在消费我们？
这场技术狂欢过后，除了技术本身，我更希望大家重新审视那些人类独有的珍贵能力——对自身欲望的觉察、对功利主义的反思、独立的主观判断，以及最重要的，机器永远都无法拥有的——人与人之间最真实的情感联结。
-End-
免责声明：
本文所载程序、技术方法仅面向合法合规的安全研究与教学场景，旨在提升网络安全防护能力，具有明确的技术研究属性。
任何单位或个人未经授权，将本文内容用于攻击、破坏等非法用途的，由此引发的全部法律责任、民事赔偿及连带责任，均由行为人独立承担，本站不承担任何连带责任。
本站内容均为技术交流与知识分享目的发布，若存在版权侵权或其他异议，请通过邮件联系处理，具体联系方式可点击页面上方的联系我。
本文转载自：NS Demon团队 tarZ
tarZ《AI安全与社会心理漫谈》