明州「AI裸体禁令」8月上路 马斯克公司SpaceXAI提告

明州立法禁止「裸体化」科技，马斯克旗下AI公司提诉反对，图为曼哈顿时报广场上月有充气人偶抨击马斯克旗下AI公司生成儿童色情图像。(路透)

明州今年4月通过美国首部法律禁止使用AI生成未经同意的裸体图像，但遭到科技公司的反对及法律挑战，富商兼科技巨头马斯克就明州这个「裸体化」科技禁令提起诉讼。

美联社报导，明州这个法令将于8月1日正式生效，目的是打击「深度伪造」(Deepfake)色情内容以及保护个人隐私，其内核内容是禁止任何网站及应用程序，提供AI「脱衣裸体」(nudification)工具，将真实人物照片转化为真人裸体或露骨性图像。用户每制作一组深度伪造裸体图像，相关平台将罚款50万元。

法令正式生效后，明州将成为第一个取缔这项日益普及技术的州，也面临州府以合宪方式监管AI使用的考验，因此受到各方关注。

但马斯克旗下的xAI(现称 SpaceXAI)29日递状明州联邦地方法院提出反对。长达38页的诉状指出，该公司并不反对禁止在未经当事人同意下，传播AI生成真人裸体照片。但该法律没有为那些努力阻止用户创建此类图片的科技公司提供「安全港」条款，甚至被拍摄者同意的图片也在被禁止之列，损害了创作自由。

诉讼还指该法律对「私密部位」的定义过于宽泛。

明州检察长艾里森(Keith Ellison)回应表示，他的办公室尚未收到诉讼文档，「但我知道，使用AI生成未经他人同意的裸体图像是令人震惊的。AI裸体剥夺了被摄者的尊严，并在情感、个人及职业层面造成巨大伤害」。

对于AI 「深度伪造」的监管，各州的相关法律在法庭上的判决结果不一，加州对此的限制法令去年同样遭马斯克提出法律挑战，并以违反宪法第一修正案而成功阻止。

德州去年通过的法律，以及联邦通过的「删除法」(Take it Down Act)都是要求网站及相关应用程序的科技公司，在知道图中人物未经同意而遭脱衣的话必须删除，网站或应用程序所有者须对图像中的人负起民事赔偿责任。

相关法律惩罚的是使用AI工具制作这些图像的人，而不是AI工具的开发者。但明州的法律则从源头做起，直指开发者。

明州立法禁止「裸体化」科技，马斯克旗下AI公司提诉反对，图为曼哈顿时报广场上月有充气人偶抨击马斯克旗下AI公司生成儿童色情图像。(路透)