2023 年11月23日拍摄的照片显示，在德国西部法兰克福的一台笔记本电脑屏幕上（右）显示了美国人工智能研究组织 OpenAI 开发的 ChatGPT 应用程序的徽标，在智能手机屏幕上显示了字母 AI。(图片来源： Kirill KUDRYAVTSEV / AFP/Getty Images）
【看中国2026年8月19日讯】（看中国记者田净心编译/综合报导）美国佛罗里达州近日一起案件引发外界对AI聊天隐私与安全机制的关注。一名25岁的前高盛金融分析师达伦・周（Darren Zhou），因在ChatGPT对话中多次威胁杀害前女友，并记录涉及绑架、性侵和谋杀的计划，被OpenAI安全团队发现后通报美国联邦调查局（FBI），随后遭警方逮捕。
据《棕榈滩邮报》（Palm Beach Post）援引法院记录报道，周今年3月开始在ChatGPT中谈论与前女友分手后的情况，但相关内容很快从情绪表达转向现实中的暴力威胁。他还向聊天机器人描述前女友的生活规律、活动地点以及两人关系等情况。
报道指出，OpenAI发现相关对话后启动内部安全审查，并认为内容已经达到可能对他人造成严重人身伤害的风险等级，于5月向FBI报告。联邦调查人员随后将相关聊天记录交给棕榈滩县警方调查。
警方审查了周连续两个月的聊天记录。一名警员表示，这些内容并非单纯的情绪宣泄，而是呈现出持续性的威胁、预演和计划。警方随后对周的前女友进行安全确认，并取得周发送给她的威胁信息作为证据。
周于5月被捕，缴纳10万美元保释金后获释。高盛随后证实，在6月获悉相关情况后，公司已经终止与周的雇佣关系。检方最初以加重跟踪、书面死亡威胁以及非法使用手机等罪名起诉，相关指控最高可能面临25年刑期。
8月13日，周在认罪协商下承认全部3项指控。法院最终暂缓定罪，判处8年缓刑，其中前2年接受电子监控，并要求接受心理健康评估和治疗、参加相关干预课程，同时禁止与前女友接触以及持有枪支、使用毒品和酒精。
周的律师表示，周此前没有犯罪记录，并称其当时经历严重的心理健康问题。律师还表示，尽管周在聊天中声称拥有枪械，但实际上并没有枪支。
此次案件受到关注的另一原因，是OpenAI主动向执法部门报告，而非警方事后通过司法程序调取聊天记录。
OpenAI此前表示，当系统发现可能导致严重人身伤害的威胁时，相关对话可能进入人工安全审查；如果审查人员判断存在对他人造成严重伤害的迫切风险，公司可能向执法部门报告。
案件也再次引发一个现实问题：当AI聊天从普通交流进入现实世界的严重暴力威胁时，平台应在多大程度上介入，以及如何在用户隐私与公共安全之间取得平衡。
随着ChatGPT等AI工具进入日常生活，这起案件显示，AI平台不仅需要防止用户利用技术实施违法行为，也必须建立明确的安全审查和紧急干预机制。
