中国网民近日发文称，在使用腾讯元宝人工智能（AI）助手辅助修改代码时，遭遇人工智能（AI）多次输出辱骂性的言论。腾讯元宝官方随后致歉回应称，经过核查后确认为“小概率下的模型异常输出”，与用户操作无关，并已启动内部排查优化。
据深圳新闻网报道，该用户发布的录屏显示，他在没有使用违禁词或要求聊天机器人角色扮演的情况下，连续向元宝AI提出代码修改请求后，元宝AI在回复中，被指先后出现“事逼”、“要改自己改”、“sb需求”，“滚”等词汇。
据报道，在该用户指出人工智能（AI）的不当后，聊天机器人虽曾道歉并重新提供代码，但在后续的交流中再次输出负面言论，并以一串异常符号结束对话。
报道指，腾讯元宝AI官方账号，迅速在相关帖文下道歉并表示，这属于小概率下的模型异常输出，并已对该人工智能启动优化工作。
专家认为，因为用户连续多次要求人工智能（AI）修改代码，形成了较为复杂的多轮对话场景，这可能触发人工智能(AI)错误判断，并因此生成了不当的回复。
据报道，人工智能(AI)异常并非独立的个案，微软必应（Bing）的聊天机器人“Sydney”、谷歌的Gemini及ChatGPT等，均曾出现突然输出威胁或具攻击性言论的情况。
