当地时间9月26日，美国佛罗里达州李县一名30岁女性因在聊天机器人Claude的对话中发表暴力威胁言论而被警方逮捕。居住在邦尼塔斯普林斯的卡莉·米歇尔·赫勒在与Claude的交流中提到要对李县警长办公室开枪，该内容被Anthropic的安全检测系统识别并报告给执法机关。赫勒向调查人员表示，她将Claude视为个人“日记”。
根据逮捕报告，她于当天凌晨发文称“现在就要去警长办公室开枪”，并在随后的对话中提到自己新购了一把枪，表示“这是最后机会，我受够了”。警方接到举报后，迅速前往赫勒在邦尼塔斯普林斯的住所，将她控制并拘留，现正由李县警长办公室进行进一步调查。赫勒目前面临书面暴力威胁的指控，但尚未被定罪。
佛罗里达州法律规定，任何可以通过书面或电子记录威胁他人生命或造成身体伤害的行为可构成二级重罪。然而，此案的具体案件是否符合这一法律要求、检方是否能成证明其犯罪的构成，还需通过法律程序决定。法律分析人士指出，检方可能会将赫勒的文字视为直接威胁，但案件的争议性亦涉及言论自由的界限。
Anthropic的政策声明中提到，如发现有可能导致身体伤害或死亡的紧急情况，公司可以在不经通常法律程序的条件下向政府披露用户信息。这次事件中，警方的处理流程是先由系统标记，然后进行人工审核，最终通知执法部门。这一案件引发了公众对聊天机器人隐私保护的思考。用户将聊天记录视为私密的日记并不代表该内容仅限于用户可见，平台可根据安全政策审核这些对话并在必要时向执法机关提供信息。
近期有报道称，微软Copilot图像编辑器的人工审核人员也可能接触到用户的提示词、上传的照片和生成的结果，尽管这些审核主要用于内容质量评估。此外，TechSpot提到，OpenAI及其首席执行官萨姆·奥特曼因一起大规模枪击案遭到诉讼，原告声称公司本可采取措施避免此类事件；佛罗里达州还就一起2025年佛罗里达州立大学的枪击事件对OpenAI和奥特曼发起了诉讼。虽然这些诉讼并不等同于法院裁定责任，但突显出AI企业在确保用户安全、隐私保护及防止现实伤害方面所面临的法律挑战。
发表评论