男子起诉OpenAI，指控ChatGPT协助定制谋害方案

国北卡罗来纳州一名男子詹姆斯・盖茨提起民事诉讼，将OpenAI告上法庭，指控妻子借助ChatGPT获取投毒相关方案，形成一份由AI量身辅助的加害计划，致使自己中毒受伤。诉状称，其妻多次向ChatGPT询问毒物信息、用药搭配、中毒症状规避等内容，参考AI给出的指引，利用夹竹桃、处方药物等物质实施加害。

尽管针对妻子的谋杀未遂刑事指控因证据不足被撤销，但这名受害者转而发起民事追责，直指OpenAI的安全防护机制存在重大缺陷，未能拦截高危有害请求，为伤害行为提供了关键信息支撑，该案也再次把AI工具的责任边界推向舆论焦点。

一、案件始末：手写笔记牵出AI对话线索

根据诉状披露，原告在身体出现不明原因不适后，在家中发现一张手写纸条，上面记录了有毒植物、镇静类药物名称，纸条顶端还标注了清除ChatGPT对话记录、退出账号的提示。这条线索让原告认定，妻子的加害计划依托ChatGPT完成信息搜集与方案细化。

在和ChatGPT的多轮对话里，提问方向高度聚焦：不同毒物混合后的效果、不易被检测的投毒方式、如何掩盖中毒迹象。原告认为，这些针对性回答，直接降低了加害行为的实施门槛。刑事层面检方最终没有继续推进对妻子的指控，但民事案件独立审理，原告的诉求是认定OpenAI存在产品过失，没有做好有害请求拦截，应当对自身遭受的人身损害承担赔偿责任。

二、核心争议：AI是否构成教唆、平台负有何种义务

这起诉讼最核心的法律矛盾，在于区分“提供信息”和“教唆伤害”。原告一方主张，ChatGPT在识别到用户正在谋划致命伤害行为时，没有拒绝回答、及时预警，反而持续输出适配需求的信息，相当于变相协助、教唆危险犯罪。

而OpenAI的立场，依托现有内容安全策略：模型内置安全护栏，原则上拒绝生成杀人、投毒、暴力伤害方案。但护栏存在短板，面对迂回、分步骤提问、伪装成研究、小说创作的诱导话术，拦截机制容易失效。法律上更大的难点在于，现行法规尚未明确：大模型在用户分步筹划暴力犯罪时，要做到什么程度才算尽到安全义务；AI本身能不能被认定为“教唆工具”，平台是否需要为用户自主实施的犯罪行为承担民事赔偿。这也是同类AI伤害诉讼共同的卡点。

三、安全护栏的现实困境：迂回提问不断绕过拦截

很多人会疑惑，为什么安全机制没能拦下这类请求。这也是当下所有生成式AI共同的难题：直白的“怎么投毒”指令很容易被拦截，但用户会拆解成碎片化问题，分开询问毒物特性、药物相互作用、人体反应、检测盲区，把危险目标隐藏在多轮对话中。

AI模型只能基于单轮或者局部上下文判断风险，很难自动串联全部对话，识别出用户完整的谋害链条。加上大模型具备长文本记忆能力，一旦对话持续进行，风险信号更容易被稀释。对于平台审核团队而言，海量的对话日志无法做到人工逐句复核，完全依靠自动化识别，天然存在漏洞。这也解释了，尽管各大厂商持续迭代安全模型，高危信息泄露的案例依旧时有发生。

四、同类诉讼扎堆，AI责任判例正在空白地带摸索

这不是第一起针对OpenAI的同类诉讼。此前已有多起案件，分别指控ChatGPT强化用户偏执妄想、给出危险医疗方案、协助策划校园暴力等。这批案件共同冲击一个空白地带：通用AI产品和传统搜索引擎、社交平台的责任标准是否一致。

搜索引擎只是索引已有网页信息，而生成式AI会根据用户需求，主动整合、定制化输出一套专属方案。原告律师普遍会抓住这一点，主张AI不是简单信息检索，而是主动参与方案构建，因此负有更高的安全义务。但过往判例中，法院大多倾向区分工具本身和使用者的主观意图，不会轻易让科技公司为用户的独立犯罪行为兜底。这起投毒案的走向，有可能成为界定AI辅助伤害责任的重要参考判例。

五、行业倒逼新课题：安全体系需要从“单句拦截”升级

案件带来的警示是，传统关键词拦截模式已经跟不上风险形态。行业需要从单轮问答过滤，转向长对话风险链路识别，持续追踪用户多轮提问的意图，识别出逐步拼凑暴力、伤害方案的行为模式。

与此同时，风险提示、危机上报机制也要完善。当模型判定用户存在明确伤人、自伤计划时，除了拒绝回答，是否有上报、预警渠道，也在持续讨论之中。但这里同样存在平衡难题：过度激进的意图判定，会造成大量正常科研、毒物科普、刑侦写作请求被误拦截，伤害正常用户体验。

在法律规则落地之前，AI厂商只能不断收紧安全边界、优化意图识别。这场由投毒预谋引发的诉讼，本质上是整个行业必须回答的问题：当AI可以为任何人定制危险方案，技术提供者的安全红线，到底划在哪里。