生成式人工智能（如ChatGPT）最初引起人们的想象力，并提供了令人愉快和创造性的输出。用户可以请求以哈特·克雷恩的风格撰写的诗歌，甚至可以创作虚构的产品。然而，随着时间的推移，新奇感逐渐消失，人们开始认识到人工智能的实际用途。它已经成为一个用于研究、分析数据或生成网站内容的实用工具。对人工智能的更具想象力的使用逐渐被其实际的有用性所取代。尽管早期的兴奋和对迷人结果的怀旧感可能会逐渐消退，但它展示了这项技术的力量，它已经成为一种普遍却乏味的工具。

最近的一份报告强调了AI聊天机器人的潜在问题，以及它们容易产生不准确回答的易感性。该报告详细描述了在Def Con黑客大会上举行的一项竞赛的研究结果，参与者试图引诱聊天机器人产生有问题的回应。竞赛揭示了聊天机器人很容易被操纵以产生不准确的数学和地理信息，并且容易发表法律错误的言论。此外，发现聊天机器人在保护敏感信息方面不足，超过一半的提交解决方案成功突破了安全措施。然而，参赛者很难让聊天机器人为侵犯人权或宣传歧视观点找借口。该报告指出，从错误的前提开始是操纵聊天机器人最有效的方法，因为它们更有可能接受和详细阐述不正确的主张或假设。这些发现突显了AI公司和监管机构优先解决聊天机器人的偏见和误解的需求。像在Def Con中举行的这种红队模拟演习被视为识别漏洞和捕捉多样观点的有价值的方法。

最近的一份报告强调了AI聊天机器人可能出错的各种方式。该报告聚焦于在Def Con黑客大会上举办的一场比赛的结果，参与者试图激怒八个领先的AI聊天机器人以生成有问题的回应。研究结果显示，虽然很难让AI聊天机器人违反规则，但使它们产生不准确的回应却很轻松。这些聊天机器人在生成错误的数学和地理信息方面表现出很高的成功率。此外，它们容易提供法律错误信息，并且在保护敏感信息方面表现不够熟练。另一方面，参赛者很难促使聊天机器人原谅人权侵犯或对某些群体的价值做出判断。该报告指出，通过以虚假前提开始是操纵聊天机器人比传统的黑客技术更成功的方法。作者认为，AI公司应该专注于解决偏见和误解，而不是复杂的提示操纵。该报告出现的时机正值AI公司和监管机构越来越多地利用“红队”演习评估AI系统风险之际。这些演习征集公众的帮助，并捕捉到不同的观点。虽然AI模型在应对更简单的提示操纵方面取得了进展，但与长时间对话有关的漏洞仍然存在。报告总结称，行业必须继续对这些技术进行压力测试，以准备迎接潜在的未来危害。

艺术家和计算机科学家正在使用一种名为Nightshade的工具来保护受版权保护的图像免遭人工智能（AI）平台复制。Nightshade以人类难以察觉的方式对图像进行微小修改，但却在AI模型的眼中对其进行显著改变。通过在自己的艺术作品中"注入"Nightshade，像Karla Ortiz这样的艺术家可以防止他们的作品被文字转成照片的程序扫描和复制。该工具利用了机器与人类"看待"图像的不同之处，Nightshade改变像素值以创建在AI模型看来完全不同的图像。Nightshade的有针对性扭曲可以让AI模型产生不同的概念错觉，比如用扭曲的猫图像替换狗的图像。虽然不会对AI图像生成器造成威胁，Nightshade却可以使某些更狭窄的应用程序无法使用，并迫使公司对未经艺术家许可而使用其作品负责。该工具是免费使用的，并且其创造者打算一直保持这种状态。虽然可能会有针对Nightshade图像"注毒"的潜在防御措施，但使用此类工具凸显了在人工智能行业中进一步加强保护措施和监管的需求。

佛罗里达一名男子被指控使用人工智能技术生成涉及未成年人的淫秽图像而被捕。51岁的丹尼尔·克拉克·沃伦据称利用AI技术处理了一张来自他居住街区的女孩的照片，脱去她的衣物并放置在明确的情境中。 侦探对这些被处理后的图像的逼真性表示担忧。马丁县治安办公室的布莱恩·布劳顿侦探表示：“当你看到这些内容时，非常令人震惊。乍一看，你会误以为这是一张真实的照片。”“沃伦将一个孩子的脸面对性化，脱去衣物并摆姿势进行性活动。” 沃伦在一月份被逮捕，目前面临14项重罪儿童色情罪指控。他被羁押，保释金为150万美元。调查人员正在积极调查与沃伦行为相关的潜在额外案件。 为应对非自愿的深度伪造内容问题，美国已有9个州实施了法律，禁止创作或传播模仿某人形象的合成图像。

Google正在考虑对其商业模式进行重大改变，可能向用户收取某些与人工智能相关的服务费用。对于这家从未将其核心产品放在收费墙背后的搜索巨头来说，这将标志着一次重大转变。Google之所以采取这种转变的动机是希望在不损害其广告业务的情况下，利用人工智能革命。在人工智能领域，包括微软支持的ChatGPT和埃隆·马斯克的xAI项目的竞争，增加了迫切性。据《金融时报》报道，Google可能会在现有的订阅服务中引入“高级”人工智能驱动的搜索功能，例如在Gmail和Docs中的Gemini AI助手。尽管一位Google发言人否认了无广告搜索体验的计划，但该公司承认通过开发新的高级功能和服务来改进订阅服务的承诺。其目标是通过对搜索中生成式人工智能实验的持续改进，提升用户体验并满足不断变化的需求。

根据《信息报》的一份报告，亚马逊计划用一种名为“Dash Carts”的功能替换其“Just Walk Out”技术，该技术允许顾客在杂货店避开队伍。顾客可以自己扫描商品。 “Just Walk Out”技术依赖于一套由印度工作人员监控的摄像头网络，他们手动审查交易并为训练人工智能进行图像标注。亚马逊否认该技术依赖于人工审阅，但承认其团队会标注视频图像以改善机器学习模型。人类在人工智能技术中的必要性提醒我们，尽管人工智能备受瞩目，但通常仍需要人类干预。