多年来，Meta的审核团队在Instagram、WhatsApp及Facebook推出新功能时，评估潜在风险，包括对用户隐私的威胁、对未成年人的伤害以及误导或有害内容的传播。这些隐私与诚信的评估工作主要由人工审核员负责。 然而，NPR获得的内部文件显示，Meta计划在不久的将来自动化多达90%的风险评估。这意味着关键的算法更新、新的安全功能以及内容分享的变更基本上由人工智能系统批准，而无需像以往那样由工作人员进行审查，以考虑潜在的意外后果或滥用。 在Meta内部，这一转变被视为有利于产品开发，能够加快新版本和新功能的发布速度。然而，现任和前任员工担忧这种自动化可能导致风险判断不足，甚至可能引发实际危害。一位前Meta高管担心，快速发布且审查不够严格会增加负面结果的可能性，因为提前发现的问题会更少。 Meta表示，公司已投入数十亿美元以保护用户隐私，这次风险评估的变革旨在简化决策流程，同时保留人工专业知识应对新颖或复杂的问题。公司声称只有“低风险”的决策才会被自动化。然而，内部文件显示，自动化的范围可能扩展到敏感领域，如AI安全、青少年风险及整体平台诚信，这包括针对暴力内容和虚假信息的监管。 新流程要求产品团队填写问卷，由AI给出“即时决策”，列出风险和必要的缓解措施。此前，风险评估员须在产品上线前批准更新；现在，除非特别请求人工审核，工程师主要自行评估风险。这一变化赋予工程师和产品团队更多自主权——他们往往并非隐私安全专家——引发对评估质量的担忧。前负责负责创新的Meta主管Zvika Krieger警告说，产品团队主要关注快速上线，而忽视了安全性，自我评估可能变成敷衍应付，无法识别重大问题。他也承认自动化的空间，但警示过度依赖AI可能会降低审查的质量。 Meta对此持淡定态度，表示会对AI决策进行审查，确保那些没有人工干预的项目符合标准。而欧洲业务在严格的数字服务法（Digital Services Act）等法规下，仍将由爱尔兰总部进行人工监督。 一些变革还与Meta结束事实核查项目和放宽仇恨言论政策同步，显示公司正朝着更快的更新速度和较少内容限制的方向调整，这是对长期维护平台安全边界措施的松动。此举反映了CEO马克·扎克伯格希望与政治人物如前总统特朗普保持一定关系的努力，扎克伯格曾将特朗普的当选描述为“文化的转折点”。 推动自动化的背景还包括Meta多年来利用AI加快运营的战略，竞争对手如TikTok、OpenAI等在内容监管方面的强力推动使Meta也不断增加对AI的依赖。公司使用的语言模型在某些政策领域已优于人类审核，让人工审核员可以专注于更复杂的案件。 前Facebook公共政策专家Katie Harbath支持使用AI提速以提高效率，但强调仍需有人类进行把关。而另一位前Meta员工则质疑，加快风险评估是否明智，指出新产品在发布前都会接受严格审查，许多潜在问题因此被及时发现。 Meta产品隐私主管Michel Protti形容此次变革为赋予产品团队更大自主权，旨在让风险管理变得更简捷。他表示，这次自动化的实施已在2024年4月至5月期间加速推进。然而，一些内部人士对此评价持保留意见，强调移除人类参与可能削弱对潜在危害的关键人类视角，认为这是“极不负责任的做法”，尤其是考虑到Meta的使命。 总的来说，Meta正从以人为主导的风险评估转向以AI为主的自动化评估，试图加快创新速度，但内部也对审查可能变得不充分、潜在危害增加以及AI应对复杂伦理和安全问题的能力表达了严重担忧。