人工智能“立功”了！
美国一名25岁的男子因在上班期间向人工智能聊天工具ChatGPT详细透露强奸、杀害其前女友的计划，从而被开发商OpenAI检测到之后举报至联邦调查局（FBI）。
人工智能公司往往会通过多标签有害内容分类模型，精准识别暴力、仇恨、性侵害等不同类别的危险内容，同时从情绪强度、语气意图维度补充识别风险等级。
OpenAI在2025年围绕公共安全领域完成了多轮关键升级。按照OpenAI的公司政策，当后台监测到对话者可能筹划伤害他人时会对内容实施人工审核，如果被判定危险等级高，公司还可能向执法部门提供对话内容作为办案线索。
法庭文件显示，该男子名叫Darren Zhou，看上去是一名亚裔。其领英公开履历显示，他以东北大学数学与工商管理专业金融学士的学历背景，通过校招路径进入佛罗里达州西棕榈滩的高盛担任分析师。
2026年以来，高盛投入了约60亿美元预算推进AI落地，要求实现3-4倍的工程生产力提升。ChatGPT则是其内部AI体系的核心组成部分，可快速处理海量数据、生成初步分析框架，减少员工的重复性事务负担。
今年3月，Darren在工作之余开始向ChatGPT倾诉自己刚刚结束的恋情。起初他只是谈论过去的回忆，以及自己希望复合等想法，但话题很快变成涉及强奸、谋杀以及杀人后自杀。
他曾这样对ChatGPT说，“我将在这月底前杀了她。如果我得不到她，别人也休想得到。”
随后他还向人工智能分享了周全的报复计划，包括在健身房停车场用鲜花等她，要求复合；如果被拒绝，他打算拔出枪，杀了她，然后再饮弹自尽。
不仅如此，他还向受害者寄送了含有AR-15步枪、格洛克手枪、12号霰弹枪、塑料拉链和乳胶手套的照片，不断进行恐吓。
Darren被对方多次拉黑之后还不断使用各种应用程序生成的虚拟号码骚扰前女友。在女孩21岁生日那天，Darren还发送了明确的性侵威胁信息，其中一条只包含她最新的住址。
这名同样来自佛罗里达州的女子向调查人员表示，自己对他仍有愧疚之情，因此一直没有选择报警，但心里还是很害怕，希望他的行为不会升级，之前提出分手，就是因为对方行为反复无常、嫉妒心强且控制欲强。
FBI探员将人工智能对话内容与该女子收到的信息联系起来，判断Darren已经构成了足够的人身安全威胁，于是在5月将其逮捕。Darren在缴纳了10万美元的保释金后获得假释。
高盛公司在得知这些指控后于6月终止了与他的雇佣关系。
Darren被指控的罪名包括发出杀人或伤害他人的威胁、以明确人身威胁实施严重跟踪骚扰等。8月13日，他当庭认罪，并被判处5年缓刑。
在11年前的一桩类似案件中，由最高法首席大法官罗伯茨主笔的判决明确，定罪必须证明被告人具备主观犯罪意图，仅靠“普通人感知到威胁”的客观标准不足以定罪。
该判决留下了明显的规则模糊空间，引发了司法界的长期争议，也成为美国网络言论安全领域的标志性先例。正因为此，调查人员通常会仔细研究完整的对话内容，并结合其他的证据链。
另外，该案件还引发了业界关于人工智能聊天隐私边界的讨论：平台对用户私人对话进行监测的尺度应该如何界定，在什么情况下有权将用户的对话内容提交给执法部门。