加利福尼亚州州长加文·纽瑟姆最近否决了SB 1047法案，该法案旨在对人工智能（AI）行业建立严格的监管措施。这项得到州立法者支持的法案旨在让科技公司对AI相关的危害负责，并在AI系统被滥用时要求设置“关闭开关”。 纽瑟姆承认该法案的良好意图，但表示担心其严格的规定会给加州的AI行业带来负担。他强调，这项立法过于关注大型AI模型，忽视了可能同样具有破坏性的小型新兴技术的潜在风险。在否决信息中，他认为限制创新以保障公共安全可能会带来意想不到的后果。 该法案的共同作者之一斯科特·维纳参议员批评否决这一决定是AI责任制的倒退，并指出在国会迟迟未能对科技行业进行监管的情况下，强有力的AI技术缺乏有约束力的规定。他指出，尽管AI公司有自愿的安全承诺，但这些承诺往往无效。 硅谷巨头包括安德森·霍洛维茨和OpenAI等公司反对这项立法，声称它可能阻碍创新并将人才从加利福尼亚带走。相反，像埃隆·马斯克和AI先驱杰弗里·辛顿和约书亚·本直奥等著名科技人物支持这项法案，警告强大的AI可能带来的严重风险，如潜在的网络攻击和生物武器滥用。 维纳在社交媒体帖子中表达了失望，认为否决是那些倡导监管影响公共安全的企业的人的损失。虽然科罗拉多和犹他州等其他州已经制定了更狭窄的AI法规来解决就业和医疗保健中的偏见问题，但在华盛顿仍然没有全面的联邦AI监管立法。尽管如此，纽瑟姆已经签署了其他与AI相关的法案，目的是限制在选举中使用深度伪造，并保护演员的肖像不被AI未经授权地复制。随着对AI的投资激增，有效的治理和公共安全措施的需求变得越来越迫切。

加利福尼亚州州长加文·纽瑟姆周日否决了一项有争议的人工智能安全法案，此前科技行业表示担忧，认为该立法可能会驱使AI公司离开该州，并扼杀创新。 纽瑟姆指出，他寻求生成式AI领域的顶级专家的意见，帮助加利福尼亚州“制定可行的防护措施”，以创建“基于科学的轨迹分析”。他还指示州级机构扩大对与AI利用相关的潜在灾难性事件风险的评估。 生成式AI引起了既兴奋又焦虑的情绪，因为它能根据公开提示生成文本、图像和视频。人们担心它可能使一些工作变得过时，干扰选举，并对人类安全构成重大风险。 该法案的作者、民主党州参议员斯科特·维纳认为，该立法对于在AI进步变得不可控制之前保护公众至关重要。由于AI行业在加利福尼亚州迅速扩展，一些领导人对这些公司的未来表示担忧，如果法案得以通过。 维纳表示，否决使加州变得不那么安全，暗示“寻求开发极其强大技术的公司没有可执行的限制”。他进一步指出，“行业的自愿承诺往往缺乏可执行性，且往往不能显著造福公众。” “我们不能等到重大灾难发生后才采取行动保护公众，”纽瑟姆断言，但他不同意在没有对AI系统及其能力的经验轨迹分析的情况下寻求解决方案。 展望未来，纽瑟姆提到他打算在下一个立法会议期间与立法机构合作制定AI法规。这时国会在实施保护措施方面的立法努力陷入停滞，而拜登政府正推进AI监管提案。 纽瑟姆表示，“特别是在缺乏国会联邦行动的情况下，加利福尼亚州的独自方法可能确实是正当的。” 代表科技行业的联盟“进步商会”对纽瑟姆的否决表示赞赏，强调“加利福尼亚的科技经济一直依赖于竞争和开放。” 提议的立法将要求对开发成本超过1亿美元或需要大量计算资源的许多高级AI模型进行安全测试。此外，州内的AI软件开发人员需要提供禁用AI模型的方法，实质上实行为“杀死开关”。 该法案旨在建立一个国家实体，监督超越现有最先进模型能力的“前沿模型”的开发。 反对该法案的团体涵盖广泛，包括Alphabet的谷歌、微软支持的OpenAI和Meta平台等开发生成式AI模型的科技巨头。一些国会内的民主党人，包括众议员南希·佩洛西也表达了反对意见。然而，支持者包括特斯拉首席执行官埃隆·马斯克，他领导一家名为xAI的AI公司。此外，亚马逊支持的Anthropic建议法案的好处可能超过其成本，尽管它指出一些方面仍然令人担忧或不清楚。 另外，纽瑟姆签署了立法，要求评估生成式AI对加利福尼亚州关键基础设施可能构成的威胁。该州目前正在评估与能源基础设施相关的风险，并已与电力部门供应商接触，计划来年对水务基础设施供应商进行类似评估，随后是通信部门。

加州州长加文·纽森否决了参议院第1047号法案，这是一项旨在监管人工智能的重要且有争议的立法。该法案本将要求对人工智能模型进行测试，以评估其是否可能导致大规模死亡、威胁公共基础设施或促成严重的网络攻击。在其否决信中，纽森表达了担忧，认为该立法可能会扼杀创新，并对低风险的人工智能应用施加不必要的监管，批评其缺乏足够的研究。他指出，虽然在缺乏联邦行动的情况下，加州需要一个本地化的人工智能监管方法，但它必须基于实证证据。 该法案针对开发成本超过1亿美元的昂贵人工智能模型，纽森对此提出异议，强调即使是成本较低的技术也可能带来重大风险。他承诺寻求一个平衡的立法和监管框架，以解决未来与人工智能相关的风险。 这一否决得到了谷歌、Meta 和 OpenAI 等主要科技公司的支持，他们认为此举可能会伤害人工智能行业的增长；州商会赞扬该决定对于保持加州的创新地位至关重要。相比之下，法案发起者参议员斯科特·维纳将否决视为失去在技术监管和公共安全保护方面领先的机会，声称59％的加州人支持该法案。 尽管他否决了1047号法案，纽森本月已签署了几项其他与人工智能相关的法案，包括保护选民免受深度伪造和制定人工智能培训披露标准。由于今年共有超过20项人工智能法案通过，关于监管的讨论在加州的科技社区及其他地方变得越来越突出。 尽管行业内对1047号法案意见不一，一些像初创公司Anthropic这样的企业支持它，但它引发的更广泛的辩论吸引了新的声音参与人工智能政策讨论。前白宫科学和技术主管阿朗德拉·尼尔森指出，该法案的测试要求与白宫的人工智能权利法案倡议一致。像众议员丽贝卡·鲍尔·卡汉这样的倡导者计划明年重新引入类似立法，强调加州在有效治理技术方面持续扮演的角色。

新闻摘要 - 2024年9月29日 纽瑟姆州长在加州启动安全人工智能发展的倡议 州长加文·纽瑟姆宣布了新的倡议，旨在推动生成式人工智能（GenAI）技术的安全和负责任的部署，同时实施保护加利福尼亚居民的措施。他邀请了人工智能领域的知名人物，包括李飞飞博士、国家科学院的Tino Cuéllar和伯克利大学的Jennifer Tour Chayes，领导建立GenAI的监管保护措施。此外，州长要求州机构评估与GenAI技术相关的潜在灾难性风险。 过去一个月里，纽瑟姆签署了17项法律，旨在规范GenAI，形成了美国最全面的立法框架之一，其中包括防止深度伪造，人工智能水印要求，以及保护儿童和工人免受AI误导的信息。他强调了加州在GenAI创新方面的领导地位，同时倡导利用技术为公众利益进行有思考的监管。 纽瑟姆呼吁顶尖专家提供科学分析和建议，以平衡创新与风险缓解。该州旨在与学术和劳动利益相关者密切合作，确保在工作场所负责任地使用GenAI。 此外，纽瑟姆签署了立法（SB 896），要求对加州关键基础设施的GenAI相关威胁进行扩展评估，这与他在2023年9月的行政命令一致。他否决了SB 1047，认为其未能充分解决高风险AI使用场景。 加州在人工智能领域保持全球领导地位，拥有50大GenAI公司中的32家，并产出大量研究成果。最近的立法行动包括对深度伪造内容的监管和对医疗保健通信中AI透明度的要求。 主要签署的法案： - AB 1008: 在CCPA下澄清AI中的个人信息。 - AB 1831: 扩展儿童色情法以包括AI生成的内容。 - SB 896: 指导对GenAI对关键基础设施影响的风险评估。 纽瑟姆州长重申了加州对负责任AI实践的承诺，随着该州继续利用GenAI技术解决社会挑战，从交通管理到无家可归问题的解决。

加州州长加文·纽瑟姆否决了《前沿人工智能模型安全和保障创新法案》（SB 1047），该法案旨在对AI公司施加严格的监管。在他的否决信中，纽瑟姆表达了对该法案广泛适用性的担忧，认为其将不公平地加重公司的负担，而未能充分解决高风险场景或关键决策过程中的问题。他指出，该法案可能会对AI技术产生一种虚假的安全感，同时可能阻碍创新。 纽瑟姆承认需要安全措施和对不当行为的处罚，但坚称任何监管框架都应建立在对AI系统及其能力的实证理解基础上。 撰写该法案的参议员斯科特·维纳批评这一否决是对影响公共安全的强大企业监管的倒退。他指出，如果没有监管限制，公众将面临迅速发展的技术带来的风险。SB 1047旨在建立美国最严格的AI监管框架，要求大型AI系统实施安全措施，并允许总检察长追究安全违规行为的法律责任。 在引入修正案后，反对者包括主要科技公司和公众人物，他们担心该法案可能会阻碍创新。同时，各个领域的支持者，包括工会和知名人士，呼吁加强监管。 此外，联邦政府也在探索AI监管，参议院提议的路线图涉及AI对社会影响的各种问题。

人工智能（AI）在医疗保健领域，尤其在放射学中的整合正在改变诊断实践。像Arterys、DeepMind（现在隶属于Google）和Cleerly等公司正在通过AI进行创新，以实现更高效和更精准的医疗保健成果。例如，Qure

在软件开发领域，正在发生两大重大变革。继2022年ChatGPT推出后，高管们渴望探索生成性人工智能（AI）的生产性应用。虽然许多计划迄今为止产生的结果有限，但一个显著的例外是软件编程。调查显示，全球开发人员认为生成性AI非常有益，其中约五分之二的开发人员正在积极使用它。