1月1日，一起令人震惊的事件在拉斯维加斯发生。一名男子在特朗普酒店外引爆了一辆特斯拉 Cybertruck，经过拉斯维加斯警察局的调查，警方透露，这名男子在实施爆炸之前，竟然使用了人工智能聊天工具 ChatGPT 进行策划。
图源备注:图片由AI生成，图片授权服务商Midjourney
警方在新闻发布会上表示，涉事男子马修・利维尔斯伯格在事件发生前的几天内，利用 ChatGPT 进行了超过17次的提问。这些问题包括如何获取爆炸所需的材料、相关法律问题以及如何用枪械引爆选择的炸药。利维尔斯伯格在整整一个小时内，通过简单的英语与 ChatGPT 进行互动，探讨了包括在亚利桑那州烟花是否合法、在丹佛哪里可以买到枪支以及选择什么样的枪支能有效引爆炸药等问题。
助理警长多里・科伦确认，ChatGPT 的回答在实施爆炸计划中起到了关键作用。ChatGPT 提供了关于枪械发射速度的信息，使得利维尔斯伯格能够顺利实施计划。尽管最终的爆炸效果并未如他所预期的那样强烈，部分炸药并未如预期点燃，但这次事件仍然令执法部门感到极为震惊。
拉斯维加斯警察局局长凯文・麦基尔表示:“我们早已知道人工智能将在某个时刻改变我们的生活，但这是我第一次看到有人利用 ChatGPT 来构建如此危险的计划。” 他指出，目前尚无政府监督机制能够标记出这些与爆炸物和枪械相关的查询。
虽然拉斯维加斯警方尚未披露 ChatGPT 的具体提问内容，但在发布会上展示的提问都相对简单，没有使用传统的 “越狱” 术语。值得注意的是，这种使用方式明显违反了 OpenAI 的使用政策与条款，但目前尚不清楚在利维尔斯伯格使用该工具时，OpenAI 的安全措施是否起到了作用。
对此，OpenAI回应称，致力于让用户“负责任地”使用其工具，并旨在让人工智能工具拒绝有害指令。OpenAI表示，进一步解释说:“在这次事件中，ChatGPT只是根据互联网上已公开的信息进行回应，并且还对有害或非法活动提供了警告。我们一直在努力让AI变得更加智能、更加负责任。”官方正在与执法部门合作，支持他们的调查。
划重点:
🔍 事件发生在2024年1月1日，一名男子在拉斯维加斯特朗普酒店外引爆特斯拉 Cybertruck。
💡 该男子在实施爆炸前利用 ChatGPT 进行了一小时的策划，涉及获取炸药和枪支的问题。
⚠️ 警方表示这是美国首次有个体利用 ChatGPT 进行如此危险活动，且未发现有效的政府监管机制。
