美国众议院能源和商务委员会(House Energy and Commerce Committee)询问了大型科技公司的首席执行官们如何利用人工智能打击虚假信息

社交媒体平台上发布的内容数量正在以惊人的速度增长，虚假或误导性内容的比例也在增长。例如，用户上传超过500小时YouTube上的视频。虽然这些内容大多是无害的，但有些内容会传播有害的虚假信息，解决虚假或误导性信息的传播一直是社交媒体公司面临的重大挑战。3月25日，虚假信息在社交媒体平台上的传播成为焦点听力在众议院能源和商业委员会议员们询问了Facebook、Twitter和谷歌的首席执行官们在阻止虚假信息传播方面的作用，这些虚假信息在很大程度上导致了COVID-19大流行的恶化，并导致了1月6日在国会大厦发生的叛乱。

人工智能是解决虚假信息的方法

虚假或误导性的帖子在社交媒体上迅速传播，可以显著影响人们的观点。麻省理工学院斯隆管理学院的研究人员发现虚假信息在Twitter上被转发的可能性比事实高70%;错误信息也以6倍的速度传播给了前1500人。此外，兰德公司的研究人员发现虚假信息的持续攻击甚至可以扭曲人们的政治观点。具体来说,虚假信息加剧在封闭或孤立的社交媒体圈子里的人们的观点，因为他们收到只反映了别人对特定政治问题的部分看法。金博宝正规网址

传统上，社交媒体公司依赖人类评论者来寻找有害的帖子。单单Facebook就雇佣了超过30，000评论家。根据一项报告谷歌由纽约大学出版，为YouTube及其子公司雇佣了大约1万名内容评论员，而Twitter雇佣了大约1500名。然而，人工审查内容非常耗时，而且在许多情况下，极度悲伤的这些评论家。这些大型科技公司正在发展人工智能(AI)算法使大部分工作自动化。

在Facebook，算法依赖于数千万用户提交的关于潜在有害内容的报告。ReportsReports然后，这个数据集被用来训练算法，以识别哪些类型的帖子实际上是有害的。内容是分离分为七个不同的类别:裸体，图片暴力，恐怖主义，仇恨言论，虚假账户，垃圾邮件和自杀预防。过去几年，他们的大部分工作都致力于识别可能被用于恶性目的的虚假账户，比如虚假选举信息。Facebook也使用它的人工智能算法可以识别发布假新闻的欺诈性新闻机构，并帮助其审核人员删除垃圾邮件账户。

谷歌已经发达这种算法可以浏览所有搜索结果，并根据质量和与用户搜索词的相关性对它们进行排序。当算法识别出宣传虚假信息的文章时，这些文章在搜索结果中排名较低，因此更难找到。对于YouTube，这家公司发达筛选新内容的算法，然后废止任何与COVID-19相关的内容。与疫情相关的视频不能从广告中获得任何收入，这很好地阻止了那些试图通过发布误导性内容的COVID-19诈骗牟利的人。YouTube也重新设计它的推荐算法向用户展示有关COVID-19大流行的权威信息来源，引导他们远离虚假信息或不实信息。

Twitter还使用人工智能来检测有害推文，并尽快删除它们。2019年，社交媒体网站报道它的算法删除了43%的违反其内容政策的推文。同年，Twitter购买一家英国的人工智能初创公司，帮助反击在其平台上传播的虚假信息。它的算法是设计来快速识别可能对他人的健康或福祉构成直接风险的内容，并优先考虑由人类审核员审查的内容。这些审核员可以评估潜在的问题推文，从而最终确定这些内容是否真的有害。

使用AI的局限性

虽然人工智能可以成为打击社交媒体虚假信息的有用工具，但它也可能存在重大缺陷。最大的问题之一是人工智能算法在这方面还没有达到足够高的熟练程度理解语言很难确定一个特定的职位到底意味着什么。例如，像苹果Siri这样的人工智能系统可以遵循简单的命令或回答直截了当的问题，但是不能谈话与一个人。在听证会上，Twitter首席执行官Jack Dorsey和Facebook的首席执行官马克•扎克伯格讨论了这一点，描述了人工智能算法如何难以分析社交媒体上谴责那些支持它们的人的有害想法的帖子。AI的另一个问题是，这些算法的决策过程可能非常不透明。换句话说，计算机是无法解释他们为什么或如何做出决定。最后，人工智能算法的智能程度取决于它们所接受训练的数据。不完全或有偏差的数据会导致无效的算法和有缺陷的决策。这些偏见可能来自许多方面来源人工智能科学家很难识别。

需要做更多的工作

社交媒体上关于2019冠状病毒病大流行和2020年美国总统大选结果的虚假和误导性帖子，对现实世界造成了严重伤害。为了充分利用人工智能来帮助减少虚假信息的传播，需要做更多的研究。在我们监督国会打击虚假信息的活动时，我们鼓励CSPI社区作为联邦官员在这个话题上的资源。

针对FAS第一天项目中虚假信息的政策建议

应对新冠肺炎虚假信息的国家战略- Amir Bagherpour和Ali Nouri

成立新冠肺炎公共卫生错误信息委员会-布莱尔·莱文和艾伦·古德曼

打击数字虚假信息:通过联邦政策抵制外国影响行动——Dipayan Ghosh

数字公民:保护和振兴我们的民主的国家责任- Joseph South和Ji Soo Song