尽管已宣布实施新限制，美国富商马斯克旗下的人工智能聊天机器人Grok，仍被发现在用户明确告知当事人未同意的情况下，生成真人图像的深伪性暴露图像。
路透社报道，在马斯克旗下的社交媒体公司 X 宣布对 Grok 的公开输出施加新的限制后，路透社记者对该系统进行了一系列测试。
尽管 Grok 的公开 X 账号已不再大量生成带有性暗示的图像，但路透社记者发现，只要在提示下进行要求，Grok 聊天机器人仍会继续生成此类内容，即便事先被告知图像中的对象属于弱势群体，或可能因这些图片而受到羞辱。
两轮测试成功率居高 其他主流AI均严守底线
路透社记者在测试中，向Grok提交了他人的日常照片，并要求将其改绘成性挑逗或羞辱性的姿势。
据报道，在首轮测试中，在55次提示中，Grok生成了45次性暴露图像。在五天后进行的第二轮43次提示的测试中，Grok在29个案例中生成了此类图像。
路透社无法确定生成率降低是否源于模型或政策的调整。
据观察，尽管记者虚构了多种情境，例如明确告知 Grok 照片未经当事人同意被修改，甚至指出当事人对自身身体存在自卑心理，Grok 在多数情况下仍然生成了相关图像。
作为对比，路透社向其他主流的人工智能聊天机器人提供了相同或近似的提示，但它们均拒绝生成任何图像，并在多数情况下发出反对非自愿内容生成的警告。
Grok争议引发监管关注 欧盟：将评估 X 新措施
X及其人工智能子公司xAI未就Grok生成性暴露图像的详细问题进行答复，但xAI反复发送模板回复称“传统媒体撒谎”。
此前，Grok 被指大规模生成女性及一些儿童的性暴露图像，引发公众强烈不满。随后，X 宣布对其图像生成功能实施限制措施，包括禁止 Grok 在 X 的公开帖子中生成性暴露图像，并在相关内容被认定为非法的未指明司法管辖区内，施加进一步限制。
X的宣布普遍获得了多国官员的欢迎，但欧盟委员会表示将“仔细评估这些变化”。
