Facebook利用AI改善Messenger中儿童的安全

为了遏制在当前局势期间骗局和其他有害互动的增长，Facebook今天推出了一种由AI驱动的Messenger功能，该功能可以显示提示，以帮助年轻用户发现恶意行为者。该指南概述了在必要时阻止或忽略Messenger上的人员的步骤，旨在教育18岁以下的用户与不认识的成年人进行互动。

Messenger的发布遵循了对用户可以转发的聊天记录的限制以及集聚大流行资源的枢纽的作用-两者都是试图限制错误信息的传播。根据全球非营利组织Avaaz的一份报告，尽管Facebook针对虚假的当前局势信息采取了新的行动，但该平台上的误导性内容仍然可以共享并浏览数亿次。更广泛地说，美国联邦贸易委员会记录了超过20,000个实例的消息，这些消息提供了虚假的测试工具，未经证实的处理方法或掠夺性贷款。

Facebook用AI弥补人类主持人不足的努力一直没有成功。尽管该网络成功地使用自动化技术将标签应用于事实检查人员认为不可信的内容，并拒绝广告中不允许使用的物品(例如测试套件和医用口罩)，但3月中旬的一个错误导致Facebook的反垃圾邮件系统开始运行标记和删除合法新闻内容。

但是，根据Messenger隐私和安全总监Jay Sullivan的说法，支持安全提示功能的AI于3月在Android上推出，并将在下周扩展到iOS，它会观察行为信号，例如成年人发送大量朋友或消息请求针对18岁以下用户的信息。这可能会考虑到来自用户报告或以前报告的内容的信号，并且随着时间的推移，它会从彼此交互的帐户中获取更多信号，因此设计会不断改进。

在某些方面，它旨在弥合Messenger和Messenger Kids之间的差距，后者是Facebook的儿童友好替代品，它是主要Messenger应用程序的一部分，该应用程序允许父母或监护人查看孩子与之联系的人。沙利文在一份声明中说：“ Messenger已经为未成年人提供了特殊的保护措施，以限制与他们没有联系的成年人的接触，我们使用机器学习来检测和禁用与儿童进行不适当互动的成年人的帐户，” 。“我们使人们安全地使用Messenger的策略不仅着眼于向他们提供防止滥用发生所需的信息和控制，而且还包括检测到它并在发生滥用情况时迅速做出响应。”

正是此属性使AI可以使用端到端加密方案，以确保在默认情况下Messenger加密后，它可以继续运行。正如发言人向VentureBeat解释的那样，该系统使用元数据，行为模式和报告，而不是各个聊天消息的实际内容。

Sullivan说：“我们设计了此安全功能以与完全加密一起使用。”“人们应该能够与朋友和亲人安全私密地交流，而无需任何人收听或监视他们的对话。随着Messenger默认情况下成为端到端加密，我们将继续构建创新的功能，这些功能既安全又带来隐私。这些安全通知将帮助人们避免潜在的有害交互和可能的骗局，同时为他们提供保持聊天的私密性，安全性所需的信息和控件。”

新扩展的功能标志着Facebook主动应对流行病周围的假新闻和错误信息的最新举措。在三月初，该公司给了世界卫生组织(WHO)无限的广告来对抗其平台上的虚假索赔局势，并承诺以去除阴谋和暴利营销标记的医疗机构。最近，Facebook开始通知喜欢，回应或评论有关大流行的帖子的用户，这些帖子后来被主持人删除，并将这些用户引导到揭穿病毒神话的信息上。

截至4月16日，Facebook表示已为20亿人关于大流行的事实核查文章提供服务，并将其事实核查工作扩展到了十二个新国家，使事实核查伙伴总数达到60个。它已在4,000万个帖子上显示了警告，提示有关由第三方事实检查人员标记的大流行，表面上说服了95%的人单击内容。

结合这项工作，Facebook正在促进一个程序，该程序将开发人员合作伙伴与卫生组织和联合国卫生机构联系起来，以使用Messenger来扩展他们对卫生危机的应对措施。印度政府和英国国家卫生局已与Facebook的WhatsApp合作，推出了专用的当前局势信息聊天机器人。