资讯中心

因与AI倾诉暴力念头被捕，隐私与安全的两难

因与AI倾诉暴力念头被捕，隐私与安全的两难

点击: 2827

在美国佛罗里达，一起因与聊天机器人交谈而引发的刑事案件引发了广泛关注。25岁、在投资银行任职的男子Darren Zhou在与交往六个月的女友分手后，将自己的愤怒与报复计划大量倾诉给他常用的聊天人工智能。据法院文件，他不仅在对话中表达了绑架、性侵及谋害前女友及其家人的想法，甚至描绘了具体的作案情节：在健身房等待、若被拒绝便开枪杀人再自杀等。现实中，他也实施了骚扰——通过匿名电话和短信发送色情与侮辱内容，绕过封锁继续骚扰；在前女友21岁生日时发出令人不安的信息，甚至单独发过健身房的名字，暗示掌握其位置。最终，这些持续的暴力言论被该AI平台的安全系统标记并上报，经人工审核后，执法机关介入，5月将他逮捕；8月13日，他承认了加重跟踪、书面死亡威胁和非法使用通信设备等罪名，并被判处8年缓刑。

此事一出，网络议论沸腾：有人将他称作“第一个被AI抓的人”，也有人开始反思把最隐私、最黑暗的想法倾诉给机器是否安全。事实证明，不少人确实把聊天机器人当作无条件的“树洞”。一项对300名美国ChatGPT用户的调查显示，82%的人认为自己与AI的对话属于敏感内容，但仍会倾向性地把更私密的想法说出来——部分原因是AI不会嘲弄，展现出高度共情，让人误以为它不会泄密或举报。

然而，自动化检测与人工复核并非总能把握住危险的临界点。去年6月，AI安全系统曾标记一名加拿大用户Jesse Van Rootselaar的对话内容，因涉及枪支暴力，按流程由人工团队进一步审查。十多名员工讨论后认为并未达到“迫在眉睫且可信”的报警标准，于是仅封禁了账号。没想到八个月后，该名18岁青年在2月10日先杀害了母亲和继弟，随后在一所学校开枪造成多人死亡，并最终自杀。事发后，平台才将相关对话信息提供给警方，因而遭到公众批评。

这个问题并没有简单答案：如果AI过度敏感、频繁将言论当真并报警，可能把玩笑或一时冲动误判为犯罪，造成不必要的干预；但如果AI迟报或选择沉默，又可能错过阻止悲剧的机会。当前的做法往往是由自动检测先筛查，再交由人类审阅——而人类判断本身就存在主观差异，稍有偏差便可能导致截然不同的处置结果。许多研究者倾向于让系统更为谨慎、及时上报，因为历史研究显示，很多实施暴力的人在行动前会通过言语或文字泄露其意图（学界称之为“leakage”），这些泄露往往是外界干预的关键窗口期。

对普通用户而言，这意味着在与AI交流时应有所节制：可以把它当作信息工具或初步倾诉对象，但不要把最血腥、最仇恨或最具违法性的计划毫无保留地写给机器。另外，法律保护也并非对AI对话一律适用。杜克大学的一项法律研究指出，把ChatGPT当作“免费律师”并不等同于享有保密特权；类似地，职业治疗师在面对对他人构成可信威胁时，依法有打破保密并报警的义务（美国早在1976年就确立了相关原则）。

另一方面，AI记录也可能成为侦查证据，协助将犯罪人绳之以法。此前在南佛罗里达两名研究生神秘失踪的调查中，嫌疑室友Hisham Abugharbieh与AI的对话内容被认为极为可疑，成为警方调查的重要线索，令案件发展出现新的方向。

总体来看，随着人工智能日益融入日常交流，围绕隐私、信任与公共安全的伦理与法律讨论只会更加激烈。如何在保护个人表达自由与防范真实危险之间找到平衡，是技术提供方、监管者与公众都必须面对的难题。

转会冲刺：多队完成关键引援与巨额出售

[无下一篇]
球友会

球友会,是面向全球体育爱好者的综合服务官方平台,致力于打造一个集数据服务、赛事直播与移动体验于一体的专业生态系统。团队成员拥有丰富的行业背景,平台以稳定性与高可用性著称,持续为用户提供高质量内容与技术保障。

导航
最新咨询
联系我们