欧洲议会以压倒性多数票通过，禁止人工智能系统创建或操纵具有性暗示的深伪内容。欧盟强调如果人工智能系统具备有效的预防安全措施，则不受禁令影响。在这同时，荷兰法院下令，禁止社交媒体平台X的聊天机器人生成裸照的功能。
美国亿万富豪马斯克旗下的X平台人工智能聊天机器人Grok，未经用户同意生成高度逼真的裸照和涉及儿童深度伪造的视频，引发欧美、澳大利亚和印度尼西亚等多国监管机构的调查。
荷兰阿姆斯特丹法院星期四下令，禁止平台和Grok在未经许可下，在荷兰境内生成和传播裸体图像以及儿童性暗示内容。
违例者可被罚款每天10万欧元，相当于14万新元，最高累计罚款可达1000万欧元。
法院还下令在违反禁令期间，公司不得在平台上提供Grok服务。
尽管被调查的Grok和平台表示已经采取措施，防止这类内容的生成与传播，但法官认为这些措施不够充分。
这是欧洲首次有法院裁定，Grok需要对可轻易生成色情图像工具承担责任。
