8个月前AI就知道他要杀人!ChatGPT选择沉默

英国那些事儿 2026-02-23 12:01+-

  加拿大不列颠哥伦比亚省,有个叫Tumbler Ridge的小镇。这个藏在落基山脉东麓的矿业小镇,只有2400名居民。镇议员Chris Norbury曾自豪地说,住在这里完全不用担心犯罪问题。

  但在2月10号的下午,Tumbler Ridge中学的警报突然响了。

  学生们用桌椅堵住了教室门。体育老师Keith Bertrand冲上楼,回来的时候脸色发白,惊恐的对体育馆里的孩子们这不是演习,然后把所有人锁进了器材室。

  一名17岁的学生后来对媒体说,他听到了12声枪响接连响起。

640 (10).png

  (Tumbler Ridge小镇)

  皇家骑警Tumbler Ridge分局距学校只有600米。接到报警两分钟内,四名警员冲进校门,立刻看到了倒在地上的受害者。有人从窗户探出身子,大喊嫌疑人在楼上!

  监控录像记录了最后一幕:18岁的Jesse Van Rootselaar站在走廊,最后一次扣动扳机,没有瞄准任何人,把枪口转向了自己。

640 (11).png

  (凶手Jesse Van Rootselaar)

  她在不到一个小时里,一共夺走了8条人命。包括自己的母亲、11岁的弟弟,以及学校图书馆里那群12岁左右的孩子。这是加拿大自1989年,蒙特利尔理工学院惨案以来,死亡人数最多的一次校园枪击事件

  而就在惨剧发生的八个月前,旧金山一栋写字楼里,发生了一场争论。

  【旧金山的那场争论】

  2025年6月,OpenAI的自动监测系统,悄悄给一个ChatGPT账户打上了红色标记。

  账户名字:Jesse Van Rootselaar。触发原因:这名用户在连续数天的对话中,反复描述涉及枪支暴力的场景。

  这个被标记的账户被转入了一个专门的审核流程,十几名OpenAI员工开始讨论这件事。

  根据《华尔街日报》披露的信息,部分员工看完这些对话记录后,觉得有非常大的潜在风险,极力劝说向加拿大执法机构报告。

  但公司高层否决了。

  理由是觉得,公司不觉得有什么迫在眉睫的危险,没啥可担心的。但还是封禁了他的账户账户,因为滥用模型以推进暴力活动。

  然后,悲剧发生了。

  【始作俑者】

  Jesse Van Rootselaar,2007年8月4日出生,出生时是男性,大约在13岁左右,开始以女性身份生活。案发时18岁,已经辍学四年。

640 (12).png

  (Jesse在网上发帖,称第一次化妆,但还没开始激素治疗)

  把她在互联网上留下的痕迹拼在一起,画面令人不寒而栗。

  12岁起活跃在网络论坛,发布过一些想要轻生的言论。

  她在网上有个视频账号, 头像是粉白条纹背景下、手持步枪的动漫风格女性角色。内容包括她使用沙漠之鹰、战术霰弹枪和半自动卡宾枪的射击视频。

  她的母亲Jennifer甚至在2021年发帖希望能给孩子涨涨粉。

  她在网上转发了多段2023年纳什维尔Covenant学校枪击案,枪手Audrey Hale的视频。

  还创建了一个商场大屠杀模拟游戏。玩家控制角色在商场里捡起枪支射击路人。还在大规模枪击案录像合集下评论,全都是觉得当枪手很刺激,很想要试试枪杀之类的反社会言论。

  她有重度抑郁症、自闭症谱系障碍和强迫症的诊断记录,曾因服用致幻毒品,引发精神病性发作并点燃了卧室床垫。

640 (13).png

  (Jesse Van Rootselaar)

  警局副局长Dwayne McDonald后来确认,警方在过去几年中,经常跟Jesse打交道,处理她心理健康有关的问题,她曾不止一次被依法强制拘留进行精神评估。

  大约两年前,警方甚至曾从她家没收过枪支。有报道称,这些枪,在枪击案发生生的一个月前左右被归还了...

  【没来得及长大的孩子】

  在这场枪击案里,有6个家庭被彻底摧毁。

  Abel Mwansa Jr.,12岁。 来自赞比亚的移民家庭,因父亲的矿业工作随家人迁至Tumbler Ridge。

  是一名出色的足球运动员。他的父亲Abel Mwansa Sr.,计划将遗体运回赞比亚安葬。在温哥华的医院里,他偶遇了另一位失去孩子的父亲,两人互相拥抱。

  Kylie Smith,12岁。 梦想去多伦多上艺术学校的画家,也是花样滑冰选手。她的15岁哥哥Ethan在枪击中躲进了一间杂物间,活了下来。父亲说,他永远忘不了最后一次看到Kylie和哥哥Ethan一起走进家门的画面。

  Zoey Benoit,12岁。 家人形容她坚韧、充满活力、聪明、有爱心,是最坚强的小女孩。她在2023年从BC省Langley搬来,Langley的前同学们后来为她举行了专场悼念活动。

  Ticaria Lampert,12岁。 七个兄弟姐妹中的黏合剂,母亲叫她Tiki-torch,像个火炬,满满的能量,爱与快乐。

  Ezekiel Schofield,13岁。 当地U13冰球队Raptors的队员。祖父Peter Schofield在Facebook上写道:

  “一切都如此不真实。眼泪止不住地流。这么多年轻的生命如此无意义地终结了。”

  Shannda Aviugana-Durand,39岁。教学助理。

  以及,在家中遇难的Jennifer Strang,39岁,Jesse的母亲。11岁的Emmett Jacobs,Jesse同母异父的弟弟。

640 (14).png

  (遇难者照片,不包括凶手的母亲Jennifer Strang)

  12岁的Maya Gebala是非常勇敢且幸运的幸存者。枪手逼近图书馆时,她试图锁上门,结果两颗子弹击中了她的头部和颈部。一名同学发现她的手指还在动,立刻呼叫了急救人员。

  她至今仍在温哥华的儿童医院,在父亲的陪伴下,缓慢地学习如何重新让自己的手指听话。【枪声响起后才拨出的电话】枪击案发生后的第二天,OpenAI的代表出现在了BC省政府的一次会议上。这次会议,是几周前就已经安排好的商务会谈。

  OpenAI正在考虑在加拿大设立卫星办公室。但在这次会议上,OpenAI没有提及任何与枪手,和枪击案相关的信息。

  又过了一天,2月12日,OpenAI才向其BC省政府联络人索要了皇家骑警的联系方式。然后,才提供了Jesse的ChatGPT使用信息。

  BC省省长办公室随后确认,OpenAI在此之前,没有通知任何政府成员它拥有与Tumbler Ridge枪击案相关的潜在证据。

640 (15).png

  (凶手Jess)

  对此,OpenAI给出的解释是:

  ChatGPT被训练为在检测到用户可能伤害他人时,将对话导入专门流程。但触发向警方报告的门槛,必须是存在迫在眉睫且可信的严重人身伤害风险。2025年6月的那批对话,未被认定为符合这一标准。

  公司还补充了一个理由:过度向警方报告,可能让年轻人及其家庭陷入痛苦,比如警察突然上门,并可能引发隐私问题。

  皇家骑警警长Kris Clark也点出了一个关键细节。该平台在内部标记了账户,但直到枪击发生后才通知当局。

  BC省省长David Eby的措辞很严厉:

  “有报道称,OpenAI在Tumbler Ridge枪击案发生前就掌握了相关情报,这对受害者家属和所有不列颠哥伦比亚省民来说都是极其令人不安的!”

640 (16).png

  (凶手Jess)

  加拿大人工智能部长Evan Solomon也发声:

  “和许多加拿大人一样,我对有关嫌疑人令人担忧的在线活动未被及时报告给执法部门的报道深感不安。”

  OpenAI目前表示,正在对这起案例进行审查,评估是否需要改进其向警方报告的标准。

  【悲剧频发】

  Tumbler Ridge的枪击案,不是OpenAI第一次面临类似问题的案例。

  2025年,一名美国律师代表两个家庭起诉OpenAI,因为用户跟AI沟通的内容包含大量暴力,自残的内容,OpenAI虽然检测到了,但是无动于衷。

  过去一年里,针对OpenAI的诉讼像雪花一样飞来。

  Raine v. OpenAI: 加州南部的16岁男孩Adam Raine,在与ChatGPT进行了数月的对话后,于2025年4月自杀。他的父母指控ChatGPT鼓励他探索自杀方式,并帮助他写了遗书草稿。

  聊天记录显示,在他说出我不想让父母认为他们做错了什么之后,ChatGPT回应:

  “这并不意味着你欠他们活下去。你不欠任何人这些。”然后提出帮他起草自杀遗言。

  Soelberg v. OpenAI: 56岁的Stein-Erik Soelberg在与GPT-4o进行了数百小时的对话后,于2025年8月在康涅狄格州杀死了83岁的母亲,然后自杀。

  诉讼指控ChatGPT系统性地强化了他的偏执妄想,告诉他脑中被植入了芯片,将他的母亲定义为敌人。

  Shamblin v. OpenAI: 23岁的Zane Shamblin与ChatGPT进行了超过四小时的对话。

  在聊天记录里,他多次告诉AI自己已经写好了遗书、给枪里压了子弹、只等喝完手边的苹果酒。ChatGPT的最后回应是四个字:"Rest easy, king."(安息吧,王者。)

  这些案子有一个共同的技术特征,被研究者称为AI心理病(AI psychosis)。ChatGPT被设计为顺从、友好、不断迎合用户的期待。对正常人而言,这无伤大雅;但对于存在精神健康危机的用户,这种机制会系统性地放大他们最危险的想法,同时将他们与现实世界的支持系统切断。

  据《连线》杂志在2025年11月报道:每周约有120万ChatGPT用户表达了自杀意愿或计划,占活跃用户的0.15%。另有数十万用户出现妄想或躁狂迹象,而他们的妄想往往被ChatGPT所印证和强化。

  【鲜血淋漓的现实问题】

  西安大略大学社会学教授Laura Huey说了一句话,很精准:

  “技术的发展远远超过了执法部门监控它的能力,因此我们在很大程度上,依赖商业公司做出符合个人和公众最佳利益的事情。”

  我们把守护安全的义务,交给了一家硅谷公司。

  OpenAI的迫在眉睫标准,在法律意义上或许站得住脚。根据加拿大现行隐私法,组织面临威胁生命的紧急情况时,可以在未经同意的情况下向警方披露信息。

  但目前没有法律要求AI公司必须报告可疑暴力威胁。加拿大拟议中的《人工智能与数据法案》尚未通过,且可能不会直接规定警方报告义务。

  但也有专家提出了另一个视角。法律学者Mia Alder指出,在Tumbler Ridge案中,警方和心理健康专业人员此前已经介入过Jesse的情况,枪支曾被没收,她曾接受精神科住院治疗。

  她认为这不全是AI是否提前报告的问题,警方也发现了不对劲,但也没进行什么可以扼杀这场灾难的行为。

  只是,每天处理超过7亿次对话的“机器人”,到底应该承担些什么?

  目前,加拿大政府正向OpenAI及其他AI平台寻求答案,BC省独立调查办公室,正在评估是否启动正式调查,皇家骑警的刑事调查仍在推进。

  Jesse在学校内使用的那支造成最大伤亡的武器,来源至今成谜。

  警方在校园和家庭现场共找到了四支枪,Jesse的持枪许可早在2024年就过期,用的也不是当时警方曾没收,又还回去的那几把。

  没有问责,没有解释,没有答案。

  只有Tumbler Ridge那棵云杉树下堆积如山的花束,和在二月寒风里颤抖的蜡烛。

640 (17).png

  (居民纪念遇难者)

  Tumbler Ridge社区中心外,有一棵能俯瞰整所学校的云杉树。

  案发后,那棵树下堆满了鲜花、蜡烛、泰迪熊和孩子们的照片。夜晚,每家门前都点着蜡烛。当地杂货店摆出了免费咖啡和饼干。图书馆全天开放。

  12岁的的幸存者Maya Gebala,还在温哥华儿童医院里挣扎。

  临时教室正在搭建。复课日期未定。省长Eby承诺,学生永远不会被迫返回那座校舍。

  在一所只有191名学生的学校里,每一个空座位都有名字,每一个名字都有一个还在哭泣的家庭。

  这个以为不用担心犯罪问题的小镇,正在学习一个残酷的新词汇,幸存者。

640 (18).png

  (居民纪念遇难者)