AI图片、影片将藏「看不见的身分证」 加州新法上路

加州新法要求AI生成内容全面标注「数字指纹」，以遏止深度伪造、欺骗及虚假的选举资讯。（美联社）

纽约邮报报导，加州一项具有里程碑意义的新法本月9日（周日）生效，要求人工智能（AI）公司在生成的图片、影片及音频中，加入看不见的「数字指纹（Digital Fingerprints）」，以便用户能辨识所看到的内容究竟出自真人亦或是AI生成。该法在遏止深度伪造、诈骗的虚假消息，提升网络资讯透明度。

这项法案由民主党籍加州众议员威克斯（Buffy Wicks）及兹布尔（Rick Chavez Zbur）共同推动，规定AI公司需在所生成的内容中嵌入一种称为「出处（Provenance）」，难以移除的数字资讯。用户可将图片、影片或音频上传至内容验证工具，如「内容来源与真实性联盟（Coalition for Content Provenance and Authenticity，C2PA）」所开发的验证系统，查找档案来源与制作方式。

该法的目标是让互联网不再是毫无规范的「西部荒野」，民众能具备辨识真假的能力。民主党籍加州参议员贝克（Josh Becker）告诉KQED电视台，「虽然AI带来不少好处，但我们已看见许多用于散播虚假选举资讯、诈骗，及具伤害性的深度伪造AI内容。」

除加州积极立法外，纽约邮报先前报导，民主党籍联邦参议员谢安达（Adam Schiff）与众议员康纳（Ro Khanna）也正推动新的联邦法，希望禁止利用AI假冒候选人身分，干扰联邦竞选活动。

这波立法行动，与政治人物近年开始大量采用AI竞选广告有关，包括共和党籍加州州长候选人希尔顿（Steve Hilton）制作，抨击现任民主党籍州长纽森（Gavin Newsom）、前副总统贺锦丽（Kamala Harris）及民主党籍州长候选人，前加州检察长贝西拉（Xavier Becerra）的AI影片；前洛市长候选人，共和党籍的普拉特（Spencer Pratt）推出「普拉特人（Pratt Man）」AI竞选影片，也因充满好莱坞风格，网上已累积数百万点阅人次。

谢安达认为，人工智能带来的政治欺骗不分党派，利用候选人肖像或声音制作虚假的AI广告歪曲其立场与政治理念，甚至伪造候选人观点不仅错误，对民主更造成严重威胁。

新法还要求自2027年元旦起，大型科技公司需提供用户一种方式，可辨识那些隐藏在眼前的AI生成内容；2028年，加州制造的手机与相机，也将被要求在影像捕捉瞬间同步记录来源资讯，意味着每张照片都将有自己的「数字出生证明」。

上述法案早在2024年便正式通过，但由于AI技术发展速度惊人，立法者花费近三年才让法案得以实施。制定相关规范时，立法人员也与欧盟（EU）密切合作，该法正式生效的日期，也恰巧与欧盟新版「人工智能法案（AI Act）」同步。

目前新法第一阶段主要针对AI公司，但专家认为，真正影响深远的将是未来将规范扩及社群媒体平台。斯塔林实验室（Starling Lab）研究员奎那（Stephen Sharp Queener）近日在Substack发文指出，若这些规定能落实运行，「将对整个资讯经济（information economy）带来更深远影响。」