欧盟将禁止AI生成深度伪造色情内容

  新华社北京5月8日电　欧洲议会议员和欧盟成员国7日就修订《人工智能法案》达成共识，同意禁止人工智能系统生成“深度伪造”的色情内容。

  据法新社报道，这一禁令将被纳入2024年通过的《人工智能法案》修订条款。欧洲议会议员迈克尔·麦克纳马拉说，这是欧盟首次通过立法明确禁止“脱衣换脸”类应用程序，“欧盟今天划定了‘红线’。人工智能绝不能用于羞辱、剥削或危害他人”。

  2024年11月27日在法国斯特拉斯堡拍摄的欧洲议会会议现场。新华社记者赵丁喆摄

  欧洲议会和欧盟成员国代表当天还同意，推迟实施针对高风险人工智能系统的监管规定。根据原计划，针对独立人工智能系统的监管规定应于2026年8月生效，嵌入其他产品中的人工智能工具应于2027年8月实施。上述时间将分别推迟至2027年12月和2028年8月。

  欧盟委员会此前表示，调整实施时间旨在帮助企业适应监管要求，以免抑制创新，欧盟仍将通过《人工智能法案》其他条款推动人工智能安全发展。

  此前，内置于美国企业家埃隆·马斯克旗下社交媒体平台X的人工智能聊天机器人“格罗克”被指生成色情内容，引发广泛谴责。根据人工智能取证组织报告，2025年12月25日至2026年1月1日，在“格罗克”以深度伪造方式生成的2万张图像中，55%的人物图像穿着暴露，其中81%是女性；2%的图像中人物年龄不足18岁。X平台1月14日宣布，不再允许“格罗克”生成基于真人的伪造性暴露图像，该限令适用于包括付费用户在内的所有用户。（王奕昕）

责任编辑：王文杰