研究人员越来越多地与欺诈性科学手稿作斗争，生成式人工智能工具的兴起加剧了这一问题。这些工具可以轻易生成虚假的文本、图像和数据，使得保证科学文献的完整性变得困难。像Jana Christopher和Elisabeth Bik这样的专家担心AI可能会产生难以检测的欺骗性内容。与使用Photoshop等旧工具伪造的相比，AI生成的图像通常看起来更为真实。尽管一些出版商已经检测到AI生成的内容，但验证此类案例仍然具有挑战性。像Proofig和Imagetwin一样的工具正在开发AI驱动的方法来识别被AI操控的图像，并在测试中显示出高度准确性。然而，这些工具仍需要专家评估。出版团体认真对待AI威胁，正在研究新技术和标准以预防欺诈。尽管当前面临挑战，像Patrick这样的专家认为未来的技术进步将更好地检测AI生成的欺诈行为，给人们带来希望，认为今天的问题不会不受控制地持续下去。

OpenAI 在伦敦推出了其实时API更新，使开发者能够将语音功能引入他们的应用程序，提供新的声音和提示生成功能，便于创建语音助手。对消费者而言，OpenAI 推出了 ChatGPT 搜索，允许通过聊天机器人进行网络搜索。这些进步为开发能够处理复杂任务的AI代理奠定了基础，比如预订航班。 OpenAI 的目标是自己创建代理，同时通过其软件赋权开发者构建自己的代理。语音集成对于提升这些代理的用户体验至关重要，这些代理可以通过访问电子邮件、应用程序和日程安排来充当个人助手。然而，仍然存在两个重要挑战：推理能力和工具连接。OpenAI 的 o1 模型引入了使用强化学习的“推理”功能来改进任务执行，尽管在可靠性、速度和成本方面仍需改进。 批评者如 Chirag Shah 警告称，当前的AI缺乏真正的推理能力，经常通过模仿训练数据中的逻辑模式而不是真正理解这些模式。OpenAI 的未来志向包括扩展推理技术到科学和编码之外的多样领域，如法律和经济。 第二个挑战涉及AI模型需要有效连接外部工具以处理现实世界任务，而不仅仅依赖于训练数据。为此，OpenAI 的 ChatGPT 搜索允许模型浏览网络以获取当前信息。竞争对手 Anthropic 的 Claude 聊天机器人提供了与计算机接口互动的功能，展示了AI代理的潜在功能。尽管 OpenAI 的 o1 可以执行一些工具交互，但仍需进一步开发。 Godemont 预计AI将在客户支持等任务中得到广泛应用，但承认用户如何使用 OpenAI 的技术具有不可预测性，预期会有意想不到的应用。 此外，由 Decart 和 Etched 开发的 Minecraft AI 版本通过下一帧预测展示了实时视频生成的能力，实现这是通过对广泛的 Minecraft 游戏数据进行训练。然而，这面临着诸如幻觉等挑战。 关于AI搜索可能重塑网络的担忧存在，可能通过改变信息动态威胁数字经济。AI 在电子废物中的角色被强调，到2030年，生成式AI模型使用的设备可能贡献高达500万吨。此外，当AI主持人在波兰误采访已故的诺贝尔奖得主时，AI的弊端暴露，导致了反响。 最后，Meta CEO 马克·扎克伯格预测AI生成或汇总的内容将激增，认为这将创造一个令人兴奋的新内容类别。

Meta 的开源 Llama 模型在研究人员、企业家、开发者和政府机构中越来越受欢迎。这些模型现已提供给包括涉及国防和国家安全的美国政府机构，并由私营合作伙伴如埃森哲、微软、亚马逊网络服务和 IBM 提供支持。例如，甲骨文使用 Llama 改进飞机维护文档，而洛克希德·马丁将其集成到多种应用中，增强代码生成和数据分析。 亚马逊和微软在安全云平台上托管 Llama 进行敏感数据处理，而 IBM 则将其用于国家安全目的。Llama 模型的负责任使用促进了美国在全球 AI 竞赛中的标准，并支持国家安全和安全倡议，包括物流、网络防御和打击恐怖主义融资。 开源 AI 对美国的经济和安全利益至关重要，正如中国等国家的广泛采用所表明的那样。它有助于建立全球标准，并支持道德和负责任的人工智能部署。通过透明度和责任心，以《负责任使用 AI 的政治声明》等协议为基础，美国的领导地位对于设定国际标准至关重要。 这种协同效应促进了创新，降低了成本，并通过全球开发者的贡献提供了更好的产品。美国公共部门从开源 AI 中受益，提高了诸如教育和能源等领域的效率和服务交付。 Meta 与美国国务院和联合国教科文组织合作开展了“没有语言被遗忘”AI 模型等项目，强调了开源技术在解决社会挑战中的价值。Meta 致力于巩固美国的技术领导地位，并确保未来的数字基础设施与民主价值观保持一致。

企业转型的下一个阶段侧重于提升系统智能，而不仅仅是将它们连接起来。随着生成式人工智能的到来，代理编排被称为新架构，成为链接企业数据和客户互动的必不可少的要素。这标志着从传统集成方法向以人工智能为驱动的编排为现代企业架构核心的重大转变。 以前，我曾讨论过生成式人工智能如何形成智能系统，将记录系统与互动系统相结合。代理工作流和多代理编排的增长凸显了在企业中开发这些系统的迫切需要。 与早期技术不同，代理编排平台不仅仅是增量更新；它们需要一种新的集成方法，这让人想起2000年代初期的企业应用集成（EAI）努力。像IBM和微软这样的主要参与者曾统治EAI领域，提供了便于连接各种系统的工具。TIBCO和SAP等公司也贡献了旨在创建集成IT环境的专业解决方案。 然而，传统的EAI正在努力满足实时运营的需求，因为组织寻求智能使用数据，而不仅仅是传输数据。代理编排引入了一层增强核心业务系统与面向客户的平台之间互动的人工智能。 例如，考虑一家全球制造公司，超越连接库存和采购系统。通过使用智能代理，该公司可以自主监控库存水平和预测需求，使实时决策和认知集成成为可能，而不仅仅是简单的自动化。 代理编排通过将数据流转化为智能行动来重新定义企业架构。客户服务代表受益于人工智能驱动的洞察力，这些洞察力在交互过程中告知他们客户的实时偏好，从而提高服务质量。 除了客户服务，代理编排在金融服务中的欺诈检测方面也发生了变化，通过从不同的交易数据中动态学习。这种适应性减少了误报，同时有效地识别了早期系统可能忽视的复杂欺诈企图。 随着代理编排变得越来越重要，新一波的技术供应商可能会出现，类似于过去的EAI巨头。这些供应商将提供专注于实时智能工作流的人工智能优先平台，使组织能够实现自主任务执行和跨系统智能。 代理编排的一个关键优势是其自我改进的能力。与静态集成不同，这些代理不断适应和优化过程，将集成转变为增强现实适应性的战略资产。 在这个新领域中，安全性和治理仍然至关重要，新的协议确保自主运营符合监管标准—特别是在银行和医疗保健等数据完整性至关重要的行业中。 代理编排带来的敏捷性是革命性的。传统的集成项目通常时间冗长且刚性，而这种新方法提供了灵活性，使组织能够迅速调整以应对快速发展的竞争环境中的市场动态的变化—在快速变化的竞争环境中，这是至关重要的能力。 对于重新思考其技术战略的CXO来说，代理编排标志着运营范式的根本转变，强调整个企业的智能、适应性工作流，同时确保安全性和合规性。 过渡已经在早期采用者中得到观察，他们报告了运营效率和客户满意度的提高。随着人工智能的持续进步，代理编排将成为企业战略的一个组成部分，倾向于那些早日适应代理编排的企业，而不是那些困于过时集成模式中的企业。 总之，企业领导者必须认识到未来的业务运营取决于无缝集成跨组织的协调智能。实施代理工作流应与用于复杂企业应用程序集成的策略相匹配。

每月只需75美元，即可获得《金融时报》优质新闻的全面数字访问。您可以在试用期间随时取消。 推出新版FT数字版：在任何设备上从头到尾阅读今天的FT。请注意，此订阅不包括访问ft

我询问了AI关于每个州典型人物的外貌，以下是生成的结果 作为一个自豪的密苏里州原住民，我可以说他们准确捕捉到了中西部的美学。 以下图像是使用生成性AI图像模型为娱乐和好奇心目的而产生的。它们还突显了AI系统中存在的偏见和刻板印象，不应被视为人类经验的准确或全面的代表。 1

Leopold Aschenbrenner 的《情境意识》宣言在今年夏天引起了重大轰动，认为人工通用智能（AGI）可能会在 2027 年到来，到 2029 年 AI 可能会消耗美国 20% 的电力。他预测，由于其破坏性潜力，AI 将显着改变全球地缘政治格局。他论点的核心是递归自我改进的理念，即 AI 系统能够自行进行 AI 研究，从而导致“智能爆炸”。 虽然关于自我改进 AI 的讨论并不新鲜，但最近的发展表明这种能力正在变得越来越现实。研究人员正在推进方法以创建能够自主设计更好 AI 系统的 AI。实现这一目标的关键在于 AI 执行 AI 研究员角色的能力，包括阅读文献、制定假设、进行实验和解释结果。 一个显着的例子是 Sakana AI 的“AI 科学家”，它可以自主承担整个研究过程。该 AI 系统已成功生成并发表了多个不同 AI 领域的研究论文，展示了进行有效 AI 研究的潜力。 尽管 Sakana 的 AI 科学家的性能可以与有能力的早期人类研究人员媲美，并且展示了一些局限性，但它标志着自我改进 AI 的概念验证。该系统无法访问多模态数据或互联网，并且缺乏任务特定的微调，这表明有许多潜在的改进空间。 专家预测，随着技术的进步和计算资源的增加，此类系统的能力将呈指数级增长。目前的技术在很大程度上仍依赖于人工努力，但 AI 创造越来越强大的 AI 的新兴可能性带来了担忧和机遇。 自动化 AI 研究人员的演变暗示着从医学到气候科学等各个领域的变革性变化，同时也带来了必须管理的风险。随着这一轨迹的展开，AI 研究的格局及其对社会的影响可能会发生显着变化，突显出这些进步的重要性日益提高。