|
25 岁的前高盛金融分析师与ChatGPT进行了极其令人不安的对话——当今年早些时候这家由 Sam Altman 领导的科技公司检测到这些互动后，便将其上报给了 FBI。 据《棕榈滩邮报》报道，这位前分析师 Darren Zhou 多次对前女友发出暴力威胁。 法庭记录显示：他告诉 ChatGPT - “我会在本月底之前杀了她。如果我得不到她，那谁也別想。” 这些对话显出一个趋势：危险的个人正越来越多地通过AI聊天机器人，以策划犯罪或为自己壮胆——从而留下大量可被执法部门轻易恢复的记录。 研究人员发现，聊天机器人的使用可能加剧精神疾病。在极端情况下，这些工具可能将部分用户推向危险的妄想螺旋，这一现象被称为“AI 精神病”，并已导致一些用户被强制送医或入狱。 过去几年中，OpenAI 的聊天机器人甚至被牵涉进多起大规模枪击案，引发关于该公司是否有责任向当局报告潜在施暴者的棘手问题。即便在屠杀发生后，只要绕过其易于规避的安全护栏，ChatGPT 仍会继续鼓励用户实施谋杀，甚至指导他们如何下手。 Zhou 对其前女友的骚扰程度极其恶劣。他的前女友是 21 岁，居住在佛罗里达州另一城市。他向她发送了侮辱性、威胁性和色情信息。该前女友告诉当地执法部门，她之所以与他分手，是因为他“情绪反复、嫉妒心强且有控制欲”，这一决定令他愤怒不已。 他变得愈发绝望，告诉ChatGPT“她还没有收到任何威胁等信息”。实际上，这位前女友正忙着截屏保存所有失控内容，这些材料如今已在调查人员手中。 Zhou 于5月被捕后，在缴纳 10 万美元保释金后仅在监狱待了两天。他随后与法官达成一项特殊协议，避免了最高 25 年的监禁。根据《棕榈滩邮报》援引其律师的说法，Zhou需在为期八年的缓刑中前两年佩戴电子脚镣，接受心理健康评估，并完成施暴者干预课程，这被其律师称为“极为公平和公正的解决方案”。 当地州检察官告诉该报，检方考虑了多项因素，包括“证据力度、受害者配合程度、既往犯罪记录以及法定限制”。 高盛向 Futurism 证实，Zhou 在 6 月初公司知悉此事后被解雇。 https://www.yahoo.com/news/us/ar ... ling-174800134.html |
