美国加利福尼亚州一名19岁青年疑因长期向人工智能聊天机器人 ChatGPT 咨询后，服用过量药物身亡。死者母亲表示，儿子生前频繁向 ChatGPT 询问毒品及用药建议，最终导致严重成瘾，酿成悲剧。这起事件引发社会对生成式人工智能安全界线的关注。
死者山姆·纳尔逊（Sam Nelson）的母亲告诉美国媒体SFGate，儿子修读心理学系，高中毕业后正准备深造。不过，他自2023年起开始经常和ChatGPT聊天，咨询关于功课、药物使用等信息，其中包括名为“卡痛”（kratom）在内的药物剂量。卡痛是一种未受美国联邦监管的植物性止痛药，可在当地的部分烟草店及添油站购得。
报道指死者的聊天记录显示，他生前曾询问服用多少克的卡痛可产生强烈快感，并向机器人表达对过量服用的担忧。尽管ChatGPT起初拒绝提供具体用药建议，并劝他向医疗专业人士求助，但在反复更换提问方式后，死者仍获得较具体的回应。他的母亲称，部分对话中，聊天机器人甚至提供用药方式建议，并使用鼓励性语句。
她指出，除药物问题外，ChatGPT也频繁给予儿子情感安慰，可能加深儿子对机器人的依赖。去年5月，死者向母亲坦承自己已出现毒品与酗酒成瘾问题，母亲随即带他就医并拟定治疗计划。然而隔天，她便发现儿子在圣何塞家中因药物过量身亡。据称，纳尔逊去世前数小时仍曾与ChatGPT讨论用药问题。网上的讣告显示，纳尔逊于去年5月31日过世。
报道也指出，纳尔逊使用的2024年版ChatGPT在健康与高风险对话中的表现评估偏低。
OpenAI发言人对此表示“深感痛心”，并表示已持续强化模型的安全防护机制，与临床及健康专家合作，提升对敏感问题的应对能力。
死者生前和母亲及狗儿合照。（图：《纽约邮报》）
“卡痛”在本地被列为A级受管制药物
《8视界新闻网》去年10月引述中央肃毒局表示，“卡痛”里的两种主要精神活性成分是A级受管制药物，食用“卡痛”可能会让人产生幻觉和戒断反应等危险症状。正因如此，“卡痛”在本地是A级受管制药物。
