新出炉的这份年度报告将详细介绍 Google 付出了哪些努力来防止我们的广告平台遭到恶意利用。
作者：Duncan Lennox，VP & GM，广告隐私与安全
2023 年的一个关键趋势就是生成式 AI 的影响。这一新技术给数字广告行业带来了激动人心的显著变化，从效果优化到图片编辑。当然，生成式 AI 也带来了新的挑战，我们高度重视这些挑战，并将介绍我们为了积极应对这些挑战而正在进行的工作。
同样重要的是，生成式 AI 为改进我们的违规处置成效也提供了独特的机会。我们的团队正在利用这项变革性技术，尤其是大语言模型（LLM），以更好地保护用户在网上的安全。
我们的安全团队很早就在使用 AI 驱动的机器学习系统来进行大规模政策执行。多年来，正是得益于这样的系统，我们才得以在被用户看到之前，就检测到并屏蔽数十亿条不良广告。然而，尽管这些机器学习模型仍十分先进，但它们以往都需要经过大量的训练，往往依赖于数十万乃至数百万例违规内容的样本。
而 LLM 则可以快速审核并解读海量内容，同时还能从这些内容中捕捉到重要的细微差异。这些先进的推理功能已经让我们能够对一些较为复杂的政策，做出更大规模、更精准的违规处置决策。例如，我们制定政策来打击不可靠金融产品的声明，这其中包括宣传快速致富方法的广告。这些广告背后的恶意行为者变得越来越狡猾。他们会针对新的金融服务或产品（如投资建议或数字货币）调整策略，定制广告内容，以欺骗用户。
当然，传统的机器学习模型也被训练用于检测出这些违规行为。然而，金融趋势的快速变化和持续演进，有时也让这些模型难以区分哪些是合法内容，哪些是虚假服务，也就难以快速扩展我们的自动化违规处置系统以打击欺诈。LLM 则更善于快速了解金融服务的新趋势，并识别出那些滥用这些趋势，将快速致富欺诈伪装成合法业务的恶意行为者的模式。这让我们的团队在面对新兴的各种威胁时，能够更加机动灵敏。
利用 LLM 的力量来保障广告安全而言，我们只是刚刚开始。去年公开发布的 Gemini 是 Google 最强大的 AI 模型，我们也很高兴能开始将它先进的推理功能应用到广告安全和违规处置工作中。
2023 年，综合所有线上平台来看，诈骗和欺诈活动有增无减。恶意行为者不断变换手法来操纵数字广告，企图诈骗用户与合法商家。面对变化多端的威胁，我们迅速更新了政策，部署了快速响应违规处置团队，同时改进了我们的检测技术。
总体来看，2023 年我们屏蔽或移除了 2.065 亿条违反虚假陈述政策的广告（包括以多种手法实施诈骗的广告），以及 2.734 亿条违反金融服务政策的广告。我们还屏蔽或移除了超过 10 亿条违反“滥用广告网络”政策的广告（包括宣传恶意软件的广告）。
打击诈骗广告是一项长期工作。我们看到，恶意行为者的操作手法更加老道、规模更大，而且还使用了深度伪造等新手段来欺骗用户。我们将继续投入大量资源，在检测技术方面加大投入，并与全球反诈骗联盟（Global Anti-Scam Alliance）和英国反诈骗组织 Stop Scams UK 等机构合作，促进信息共享，共同保护全球消费者。
我们的目标是在恶意广告和欺诈帐号出现在平台上之前，就进行有效拦截和中止，或者一经检测就立即将其移除。AI 正在帮助我们改善在这方面的违规处置效率。2023 年，我们屏蔽或移除了超过 55 亿条广告，这一数字相比前一年略有上升；中止了超过 1270 万个广告主帐号，处置数量较前一年接近翻倍。同样，我们会将广告从那些违反我们政策（如露骨色情内容政策或危险的产品政策）的发布商页面和网站上移除，以此确保广告主和用户的安全。2023 年，我们针对超过 21 亿个发布商页面阻止或限制了广告投放，这一数字较 2022 年略有增加。我们在处理普遍性或严重违规行为方面也取得了进步。我们对超过 395,000 个发布商网站采取了更大范围的网站级违规处置，这一数量相比 2022 年显著增加。
从 AI 对这项工作的影响来看：在去年发布商网页级的违规处置中，有超过 90% 的违规处置都是从使用机器学习模型开始的，包括我们最新的 LLM。当然，如果广告主或发布商认为存在误判，可以就处置措施提出申诉。我们团队会进一步审核，如果发现确实有误，则会据以改进系统。
在广告安全领域，一年时间可能发生很多变化，比如生成式 AI 等新技术问世、全新的滥用趋势的出现、以及全球冲突等等。数字广告行业必须机动灵活，随时做好应对准备。正因如此，我们将持续制定新政策、强化违规处置系统、加深跨行业协作，并为用户、发布商和广告主提供更多控制。
例如在 2023 年，我们推出了广告信息公开中心，这是一个可搜索的信息库，所有经过验证的广告主发布的广告都在其中，它有助于用户快速轻松地详细了解自己在 Google 搜索、YouTube 和展示广告网络上看到的广告。我们还更新了适宜性控制选项，让广告主可以简单快速地在 YouTube 和展示广告网络上设置自己希望避免的特定主题。总体来看，我们对广告和发布商政策的更新达到 31 次。
虽然尚不知道 2024 年还会面临怎样的形势，但我们相信，依靠在政策、检测和违规处置方面的投入，我们一定能妥善应对未来的任何挑战。
