加州的AI监管：纽森州长打击深度伪造、选举诚信和数字权利的全面立法
加州在人工智能监管方面处于领先地位，州长加文·纽森正引领这一潮流。在他的办公桌上，有38项与AI相关的法案，其中一些已经签署成为法律，另一些仍在审议中。纽森正在努力平衡：拥抱AI的变革潜力，同时应对其最危险的风险。
打击深度伪造和数字虚假信息
深度伪造的兴起，特别是在政治和性方面的应用，是一个突出的问题。深度伪造不仅对个人构成威胁，对民主本身也是如此。纽森政府正直接面对这一问题。已通过的几项法案旨在消除AI生成的欺骗性内容的毒害传播。在已签署的法律中，AB 2655和AB 2839针对选举相关的深度伪造。这些法案要求主要在线平台在选举前的关键120天内标记或删除AI操纵的选举内容。选民需要透明度，这些法规确保欺骗性AI内容不会扭曲政治格局。
保护AI时代的演员
纽森还在抵制AI对好莱坞的侵蚀。演员的数字形象比以往任何时候都更加脆弱。随着新的AI工具能够创建超现实的复制品，个人隐私和知识产权面临真正的威胁。两项关键法律已经实施，保护演员免受未经明确同意创建AI生成版本的侵害。这确保了演员的面孔、声音或形象不能未经许可被使用——这对娱乐业来说是一个重大胜利。
打击明确的深度伪造
AI生成的色情内容的兴起是另一个战场。纽森以SB 926采取强硬立场，该法案将创建和分发旨在造成情感伤害的AI生成色情内容定为犯罪。SB 981进一步规定，社交媒体平台必须有机制让用户报告和删除此类内容。这是必要的——受害者应能直接删除有害内容，而不必跳过官僚程序。没有人应该生活在恐惧中，担心他们的形象会在网上被滥用。
AI生成内容的透明度和标签
AI生成内容的问题也备受关注。随着AI生成的图像、视频和文本充斥社交媒体和其他平台，用户有权知道什么是真实的，什么是机器生成的。纽森支持SB 942，该法案要求生成式AI系统（如OpenAI的DALL-E）在内容为AI生成时进行披露。这是一个简单但有效的措施，确保普通人能够轻松区分真实和AI生成的媒体。
备受关注的SB 1047
现在，让我们谈谈SB 1047——每个人都在关注的法案。它提议对大型AI程序（成本超过1亿美元）进行严格的安
全测试，并要求创建紧急“关闭开关”以关闭失控的AI系统。该法案大胆且具有前瞻性，赋予加州总检察长对造成重大伤害的AI公司采取法律行动的权力。
但这里有一个问题：纽森正在谨慎行事。虽然SB 1047解决了不受监管的AI带来的许多危险，但纽森担心它可能对创新产生寒蝉效应，特别是在开源社区中。没有人希望扼杀创造力或阻止初创企业推动AI的边界。与此同时，失控AI系统的风险太大，不容忽视。这是一个高空走钢丝的行为，纽森知道找到正确的平衡将对全国和全球产生影响。
加州领先，华盛顿落后
更关键的是，联邦政府在AI监管方面行动迟缓，留下了一个空白，加州正在填补。纽森将加州视为不仅是州，而且是AI创新和治理的领导者。加州是全球最前沿的AI公司繁荣发展的地方，纽森希望确保在创新蓬勃发展的同时，AI不会失控。这是一个微妙的方法，但加州别无选择，只能引领，尤其是在华盛顿无所作为的情况下。
展望未来：精准而非全面监管
随着纽森处理剩余的法案，预计会有更多的“外科手术式”打击，而不是全面的改革。他可能会专注于AI风险最明显的特定领域——深度伪造、数字形象和选举干扰。加州希望保持在AI的前沿，但不会以公民的安全和隐私为代价。
纽森的决定时间紧迫，签署或否决待决法案的截止日期即将到来。他的决定不仅将塑造加州的AI格局，还可能为全国树立一个模板。AI不会消失——它正在快速发展。加州正将自己定位为负责任地进行这一演变的地方，对AI带来的机遇和危险都保持警惕。
关键要点
- 加州州长加文·纽森正在评估38项与AI相关的法案，包括备受争议的SB 1047。
- 纽森已签署了八项AI法律，其中一些是美国最全面的。
- 新法律已经实施，将创建和传播深度伪造的色情内容定为犯罪，并要求社交媒体平台报告和删除这些内容。
- AI生成内容现在必须提供来源数据，确保披露其来源和创建过程。
- 加州已实施法律，打击选举中的AI深度伪造，并保护演员在AI生成媒体中的权利。
分析
加州的AI立法旨在在技术创新和伦理考量之间取得平衡，这对OpenAI等科技公司和社交媒体平台有影响。深度伪造色情内容的定罪和强制内容标签可能起到威慑作用，但也可能给平台带来合规负担。保护演员在AI生成媒体中的权利为数字时代的知识产权树立了先例。待决的法案，特别是SB 1047，可能会进一步规范AI在选举中的参与，影响政治话语和竞选策略。短期内，这些法律可能会遏制AI的滥用；长期来看，它们可能会影响国家AI政策和全球科技标准。
你知道吗？
- 深度伪造色情内容：深度伪造色情内容指的是未经同意使用AI生成的图像或视频，描绘个人在明确的或令人尴尬的情况下。这种内容使用深度伪造技术创建，利用深度学习算法操纵或生成逼真的视觉和音频内容。加州的法律旨在将此类内容的创建和传播定为犯罪，特别是在用于敲诈或骚扰时。
- 来源数据：来源数据包括提供内容来源、创建和历史信息的元数据。在AI生成内容的情况下，来源数据对于透明度至关重要，帮助用户确定图像、视频或其他媒体是AI生成的还是真实的。加州的新法律规定生成式AI系统必须包含来源数据，披露内容的AI生成性质。
- 数字复制品：数字复制品是使用AI和深度学习技术创建的高度详细和逼真的个人数字表示。这些复制品可以用于各种媒体形式，包括电影、广告和视频游戏。加州的新法律保护演员，要求工作室在创建和使用AI生成内容的数字复制品之前必须获得演员的明确许可。