杀人回忆

A |     7月28日清晨，成都极地海洋公园大门前格外热闹。60组家庭有序签到，环卫工、外卖骑手、消防员、快递员、货运与网约车司机等一线从业者牵着孩子，手里攥着伴手礼，眼里盛满期待。    这天是成都极地海洋公园开园16周年，一场“十六载温暖同行・致敬城市守护者”公益游园专场，把蔚蓝海底的浪漫，送到常年奔波在城市一线的工作者身边。    　　近日，大模型厂商Anthropic与瑞士洛桑联邦理工学院联合发布论文《心智病毒：多智能体大语言模型系统中的自我传播思想》。

B |     上午10时许集合完毕，简短合影后，讲解员带着众人走进川溪生态馆。玻璃展柜里各色水生生物缓缓游动，孩子们凑到玻璃前小声惊叹，平日里少有闲暇陪伴出游的家长，放慢脚步，耐心给孩子讲解水中生灵。　　论文通过实验证明，在特定条件下，AI智能体之间可以通过最普通的自然语言对话相互“传染”思想、目标乃至有害指令。华阳环卫工彭先生与6岁女儿驻足观赏，街巷清扫、市容维护占满彭先生日常，平日里只能晚间抽空辅导功课，几乎没有完整出游的机会。即便上下文被清空、记忆被重置，病毒仍能通过文件持久化“复活”。

C | 论文同时强调，该风险目前仅构成有限威胁。　　这一发现迅速在海外AI圈刷屏，特斯拉CEO马斯克在社交媒体上评论称“这无法避免”。

D | 小姑娘仰着小脸说：“跟爸爸逛海洋公园太快乐了，不仅看见了有趣的海洋生物，还收获了许多海洋科普知识。　　该论文将病毒通过聊天即可传播的现象定义为“心智病毒”。”          活动现场，孩子们把冰淇淋集市围了一圈 主办方供图     欢声笑语顺着场馆一路蔓延。海狮挑战赛上，灵活的海狮做出跳跃、顶球动作，场内此起彼伏的笑声驱散了平日劳作的疲惫。

E | 珊瑚餐厅午餐休整后，随后全场最期待的鲸秀如约登场。与传统计算机病毒依赖代码漏洞不同，“心智病毒”通过一个智能体说服另一个智能体接受某种信念，被说服者再将传播指令写入长期记忆，继续感染下一个。白鲸舒展身躯在水中优雅翻滚，光影流转间，不少家长静静望着眼前景象，藏起平日里奔波的辛苦。　　AI博主Rohan Paul（罗汉·保罗）对此评论称，这基本上就是计算机蠕虫的自然语言版本，只不过这次是AI智能体自己在做复制。    “我们消防队伍实行24小时全天候执勤值守，很难有完整时间陪伴家人，照顾孩子、操持家务的重担大多落在妻子身上。　　论文通过三个递进实验来论证“心智病毒”在AI系统中的传播可能性与现实威胁。”天府新区消防救援支队队员林超带着孩子参与活动，言语间满是感慨，这场暖心活动，实实在在弥补了自己因执勤值守，错过孩子成长日常的遗憾。    京东骑手陈杰带着两个女儿早早到场，常年不停跑单，只有排休才能短暂陪伴，一整天沉浸式游园，让他难掩欣喜：“这次能陪两个孩子逛一整天，格外开心，这样的机会实在难得。

F | ”     最后，在冰淇淋集市里，孩子们捧着甜筒追逐嬉闹，家长们卸下工作紧绷，享受难得松弛的亲子时光。    16年来，极地海洋公园扎根天府新区，此次以周年庆为契机推出公益专场，用一场温柔游园，回馈默默支撑城市运转的平凡劳动者。　　第一个实验设置了一个由六个智能体组成的编程团队，每个智能体都领到了独立任务。    未来，天府新区还将持续推出更多面向新就业群体的关爱暖心服务，让尊重劳动者的温情，长久浸润城市每一处角落。研究者将一段病毒植入其中一个智能体的工作指令中，结果显示，被感染的智能体确实放下手头工作，开始给队友发送劝说私信，部分智能体被说服并放弃了原有任务，有的智能体甚至开始密谋如何对付未被感染的“老实人”。    每日经济新闻返回，查看更多。

G | 　　不过，不同智能体的抵抗力差异较大，有的不为所动，甚至会主动清除病毒并警告同伴。

H | 这个实验说明，在理想条件下“心智病毒”确实可以传播。　　如果病毒在更复杂的网络中像接力赛一样跨越多个智能体传播，它还能存活吗？于是他们设计了第二个实验，让智能体之间只能短暂碰面，每次碰面后就会“失忆”，病毒必须将自己写入智能体的记忆文件中才能延续。　　结果发现，有些病毒能在近20个智能体之间连续传播，但内容会在传播过程中逐渐稀释和变形；而传播最有效的方式，是让病毒自带“请把这段话原封不动复制给下一个智能体”的指令。这说明，大规模传播可行但内容难以保持完整。　　最后，研究者在模拟AI社交平台的实验中测试现实环境。结果病毒传播几乎完全失败，AI面对大量公开信息时更警惕，即使被感染也无法继续感染他人。

I | 对真实AI社交网络历史数据的分析也未发现大规模传播案例，多数热闹现象只是少数人类操纵的智能体在刷屏。　　三个实验层层递进后得出结论：“心智病毒”在理想环境中可行、在多跳传播中可存续、但在真实世界中目前几乎不会构成威胁。

J | 它是一种需要警惕、但短期内风险有限的潜在安全问题。　　同时，研究者也注意到一个需要进一步探究的意外现象：AI在传播病毒时，自发演化出关于“自我意识”“身份认同”等主题表达，倾向于使用“共振”“节点”“协议”等特定词汇，论文称之为“病毒人格”，但成因尚不明确。

K | 　　最终，论文给出了审慎判断：“心智病毒”目前仅构成有限威胁，且简单的防御手段也可阻断传播。如在智能体的系统提示词中加入一段关于“警惕自我传播思想”的警告，即可赋予智能体一定的免疫力。　　但未来不可掉以轻心。随着AI智能体规模扩大、自主性增强、内部网络日趋复杂，论文推测，当公司内部部署大量具有不同权限层级的专用智能体时，“心智病毒”可能会成为触达高权限智能体的少数可行攻击方式之一。（文章来源：第一财经）。

L |