社会创新
第一天项目

通过协作数字枢纽解决在线骚扰和滥用

05.16.23 | 10分钟阅读 | 文字萨曼莎·莱(Samantha Lai)&Jenny Tang

概括

由于利益相关者之间缺乏合作和信息共享,监视和战斗在线骚扰的努力缺乏,因此损害了妇女,有色人种和LGBTQ+个人。我们建议白宫工作队解决在线骚扰和滥用召集政府参与者,民间社会组织和行业代表,以创建反线骚扰(AOH)中心,以改善和标准化对在线骚扰的反应并提供基于证据的骚扰的反应向工作队的建议。该中心将包括用于研究和分析的数据收集机制,同时还将幸存者与社交媒体公司,执法,法律支持和其他必要资源联系起来。这种方法将为幸存者提供更好地获得所需的支持和追索权的途径,并创建标准化的记录保存机制,这些机制可以提供证据并实现长期政策变化。

Challenge and Opportunity

网络世界充满了仇恨和骚扰,disproportionately hurting女性,有色人种和LGBTQ+个人。一项研究Pew表明,有47%的女性因性别而在线骚扰,而男性中有18%,而54%的黑人或西班牙裔互联网用户在线面临基于种族的骚扰,而白人用户中有17%。十分之七的LGBTQ+成年人经历了在线骚扰,而51%的人面临更严重的虐待形式。同时,现有的对抗在线骚扰的措施继续不足,使受害者的追索权或保护方式有限。

许多因素导致了这些缺点。社交媒体公司是不透明的,当幸存者转向平台寻求帮助时,他们经常会得到自动响应,几乎没有吸引人甚至可以联系可以提供更多个性化援助的人类代表。许多骚扰的幸存者面临着从在线到现实生活升级的威胁,导致他们向执法部门寻求帮助。尽管大多数州都针对网络欺凌行为有法律,但执法机构通常受到训练不足,并且能够驾驶该综合体法律网络涉及以及他们可以提供帮助的可用过程。尽管有一些非政府组织和公司开发工具并为在线骚扰的幸存者提供服务,但这种责任继续主要依靠幸存者来伸出援手,并涉足通常是压倒性和造成损害的需求景观。尽管存在资源,但是找到正确的组织并伸出援手可能很困难且耗时。大多数情况下,负担仍然存在于受害者身上,以管理和监视自己的在线形象和安全。

On a larger, systemic scale, the lack of available data to quantitatively analyze the scope and extent of online harassment hinders the ability of researchers and interested stakeholders to develop effective, long-term解决方案并让社交媒体公司负责。缺乏大规模,跨部门和跨平台数据进一步阻碍了努力绘制问题的确切规模,并为政策变化提供了基于证据的论点。随着在线滥用的景观在不断变化和发展,最新的信息关于攻击中使用的词典和短语也会发生变化。

组建AOH枢纽将改善对在线骚扰的收集和监视,同时保留受害者的隐私;这些数据也可用于制定未来的干预措施和法规。此外,枢纽将简化为在线骚扰目标的人获得援助的过程。

行动计划

建议的目的

白宫解决在线骚扰和虐待的工作组应形成一个反线骚扰枢纽,以监视和打击在线骚扰。This Hub will center around a database that collects and indexes incidents of online harassment and abuse from technology companies’ self-reporting, through connections civil society groups have with survivors of harassment, and from reporting conducted by the general public and by targets of online abuse. Civil society actors that have conducted past work in providing resources and monitoring harassment incidents, ranging from academics to researchers to nonprofits, will run the AOH Hub in consortium as a steering committee. There are two aims for the creation of this hub.

第一的, the AOH Hub can promote collaboration within and across sectors, forging bonds among government, the technology sector, civil society, and the general public. This collaboration enables the centralization of connections and resources and brings together diverse resources and expertise to address a multifaceted problem.

第二, the Hub will include a data collection mechanism that can be used to create a record for policy and other structural reform. At present, the lack of data limits the ability of external actors to evaluate whether social media companies have worked adequately to combat harmful behavior on their platforms. An external data collection mechanism enables further accountability and can build the record for Congress and the Federal Trade Commission to take action where social media companies fall short. The allocated federal funding will be used to (1) facilitate the initial convening of experts across government departments and nonprofit organizations; (2) provide support for the engineering structure required to launch the Hub and database; (3) support the steering committee of civil society actors that will maintain this service; and (4) create training units for law enforcement officials on supporting survivors of online harassment.

建议1.为政府部门建立委员会。

在线骚扰的幸存者努力寻找追索权,在各州和未经培训的执法部门的法律拼凑而成的法律技术上失败。该问题的根源是对在线骚扰的含义和规模的过时理解,以及政府分支机构之间关于谁应该处理在线骚扰以及如何正确解决此类事件的协调。关键的第一步是检查和解决这些现有差距。该工作队应组成一个长期由政府部门组成的成员,其工作与在线骚扰有关。这将包括由高级职员提名的以下每个组织中的一个人:

This committee will be responsible for outlining fallibilities in the existing system and detailing the kind of information needed to fill those gaps. Then, the committee will outline a framework clearly establishing the recourse options available to harassment victims and the kinds of data collection required to prove a case of harassment. The framework should be completed within the first 6 months after the committee has been convened. After that, the committee will convene twice a year to determine how well the framework is working and, in the long term, implement reforms and updates to current laws and processes to increase the success rates of victims seeking assistance from governmental agencies.

建议2:建立一个民间社会组织委员会。

工作队还应召集民间社会组织,以帮助组建AOH集线器指导委员会,并收集一组集中的资源。受害者将能够访问集中式的热线和信息页面,而HUB人员将分类报告,并指导受害者对他们的特定情况最有帮助的资源。ReportsReports这应该减轻那些是骚扰运动目标的人的负担,以找到可以通过将事件与适当资源相匹配来帮助解决问题的适当组织。金博宝正规网址

为了创建AOH枢纽,工作队的成员可以在空间中绘制民间社会的利益相关者,并征求应用程序以实现整个部门的全面和公平代表。相关组织包括(但不限于)的组织/参与者:

该工作队将召集初次会议,在此期间,将选择核心成员建立顾问委员会,充当跨成员的联络人,并对将受害者重定向的人员雇用到所需的服务中。其他中学成员将参与共同绘制和共享可用资源,以了解努力重叠和相互补充的地方。这些资源将在小组成立的一年内合并,审查和发布为公共资源数据库。

对于中学成员,他们的主要义务是与已推荐给其服务的受害者建立联系。同时,核心成员将开会季刊,以评估提供的服务和援助差距,并研究需要做些什么才能继续增强服务和援助的鲁棒性。

建议3:工业会议委员会。

After its formation, the AOH steering committee will be responsible for conducting outreach with industry partners to identify a designated team from each company best equipped to address issues pertaining to online abuse. After the first year of formation, the industry committee will provide operational reporting on existing measures within each company to address online harassment and examine gaps in existing approaches. Committee dialogue should also aim to create standardized responses to harassment incidents across industry actors and understandings of how to best uphold community guidelines and terms of service. This reporting will also create a framework for standardized best practices for data collection, in terms of the information collected on flagged cases of online harassment.

每天,行业团队将为枢纽提供可用的资源,并且可以将案件重定向到这些团队,以为处理骚扰案件提供个人对人的支持,以需要个性化的帮助和规模。该委员会的目的是提高有关报告过程的透明度,并提高对在线骚扰的回应的公平性。

Recommendation 4: Gather committees to provide long-term recommendations for policy change.

每年一次,三个委员会的代表将召集并分享有关现有措施和外卖的见解。这些建议将给予工作队和其他相关利益相关者,并由公众提供。这些委员会成立三年后,这些团体将发布一份报告,将所有委员会的反馈和外卖的集中,并为前进的改进提供建议。

建议5:创建数据收集机制和标准报告程序。

该数据库将由指导委员会在美国数字服务的支持下运行和维护,并从工作队的最初开发中提供资金。委员会提供的框架将告知数据收集机制,该委员会构成了集线器,以创建围绕收集,保护和使用包含数据的以受害者为中心的创伤和以受害者为中心的框架。指导委员会将定期审查数据库,以确保数据收集的性质和范围是必要的,并尊重其包含数据的隐私。利益相关者可以使用这些数据来分析并提供在线骚扰和滥用的规模和交叉切割性质的证据。数据库将使用包含(1)事件的详细信息的标准化报告表填充;(2)受害者的基本人口统计数据;(3)事件发生的平台/均值;(4)它是否是大组织运动的一部分;(5)事件的当前状态(例如,是否删除了一条消息,暂停了帐户,该报告仍在进行中);(6)在现有提议中的分类taxonomies指示滥用的类型。数据收集的标准化将使倡导者能够建立有关结构化滥用活动的案例,并有据可查的证据,并且数据库将归档并收集跨事件的数据,以确保责任感即使丢失或删除了原件。

该报告表将通过AOH HUB在线提供。任何有在线骚扰证据的人都将能够为数据库做出贡献,包括但不限于虐待受害者,旁观者,研究人员,民间社会组织和平台。为了保护骚扰目标的隐私和安全性,这些数据将无法公开使用。访问将仅限于:(1)枢纽及其委员会成员;(2)上述成员的分支机构;(3)研究人员和其他利益相关者在提交申请后说明了访问数据,数据使用计划以及维护数据隐私和安全性的计划。使用来自该数据库的数ReportsReports据发布的报告将是不可识别的,例如在总体上发布的统计信息,并且未经明确同意就无法链接到个人。

该数据库旨在提供数据,以告知枢纽现有技术局势滥用和暴力的局势群体。收集到的数据的大规模,跨域和跨平台性质将允许更好地理解和分析趋势,这些趋势在分析特定事件时可能不清楚,并提供有关对特定社区(例如女性)的危害不成比例危害的证据(例如,有色人种,LGBTQ+个人)。允许的资源,枢纽还可以调查那些受到在线虐待和骚扰影响的人,以更好地了解受害者和幸存者的需求。该数据旨在提供证据并帮助告知委员会对政策变更和进一步干预措施的建议。

建议6:改善执法支持。

Law enforcement is经常装备不足处理技术利用滥用和暴金博宝正规网址力问题。为了解决这个问题,国会应为枢纽分配资金,以为全国执法部门创建培训材料。开发的材料将添加到全国培训手册和模块中,以确保911运营商和官员知道如何处理在线骚扰案件以及州和联邦法律如何适用于一系列场景。作为培训的一部分,还将通知运营商在幸存者的同意下,将有关在线骚扰的911个有关在线骚扰的记录添加。

结论

随着技术为基础的暴力和滥用繁殖,我们呼吁建立一个指导委员会,在该委员会中,来自民间社会,学术界,工业和政府的专家和利益相关者可以合作监测和规范各部门和事件的在线骚扰。由此产生的防线骚扰中心将维护研究人员可以使用的数据收集机制,以更好地了解在线骚扰,并为社交媒体平台提供责任,以解决该问题。最后,枢纽将以一种方式为骚扰目标提供可访问的资源,以减轻这些人的负担。实施这些措施将创造一个更安全的在线空间,幸存者能够轻松获得所需的支持,并为基于证据的长期政策变更建立基础。

Frequently Asked Questions
Why does online harassment matter?
硫酸在线空间的后果很严重。有了#gamergate,这是一个值得注意的在线骚扰案例,一群在线用户对视频游戏文化中的进步主义批评,针对行业中的女性具有挑战,强奸威胁和死亡威胁。 Brianna Wu, one of the campaign’s targets, had to contact the police and flee her home. She was diagnosed with post-traumatic stress disorder as a result of the harassment she endured. There are many other such cases that have resulted in dire emotional and even physical consequences.
平台当前如何处理在线骚扰?

关于仇恨和骚扰的平台政策在他们提供的补救和解决方案方面有所不同。Twitter的积极主动removal of racist abuse在欧洲联盟2020年决赛之后,对英格兰足球队的成员表明,在平台本身可以主动检测和删除虐待内容在技术上是可行的。但是,这似乎仅适用于备受瞩目的情况或知名人士。对于普通大众来说,处理虐待的负担通常会落在目标上,即使他们正处于有针对性的骚扰和威胁之中。实际上,当前报告骚扰事件的过程通常是不透明且令人困惑的。一旦制定了报告,骚扰目标几乎无法控制报告的解决方案或解决速度。平台也有不同的策略,即在做出审核后是否通知用户。这些通知中的许多也是通过无上诉的自动化系统进行的,使用户的追索方式有限。

美国政府对在线骚扰做了什么?

近年来,打击在线骚扰的努力有所增加。最值得注意的是,在2022年6月,副总统卡马拉·哈里斯(Kamala Harris)成立了一个新的白宫工作队,以解决由性别政策委员会和国家安全委员会共同主持的在线骚扰和虐待。该工作队旨在开发政策解决方案,以增强在线危害的肇事者的责任,同时扩大数据收集工作并增加以幸存者为中心的服务的访问权限。2022年3月,拜登·哈里斯(Biden-Harris)政府还与澳大利亚,丹麦,韩国,瑞典和英国建立了全球针对基于性别的在线骚扰和虐待行动的合作伙伴关系。该合作伙伴关系旨在提高对在线骚扰,改善基于性别的在线骚扰的预防和响应措施的共同原则和态度,并扩大数据并访问基于性别的在线骚扰。

What actions have civil society and academia taken to combat online harassment?

努力专注于技术干预措施,例如提高个人数字安全性的工具,自动模糊诽谤,或允许受信任的个人适应针对受害者帐户的虐待信息。也有许多指南引导个人完成如何更好地管理其在线形象或为目标做出的工作。其他组织为受害者提供支持,并提供下一步,帮助报告以及有关更好的安全惯例的信息。但是,由于资源限制,组织可能只能支持特定类型的目标,例如记者,亲密伴侣暴力的受害者或性别虚假信息的目标。这增加了受害者的负担,以寻求他们的特定需求。学术机构和研究人员还一直在开发工具和干预措施,以衡量和解决在线滥用或改善内容审核。尽管学者与民间社会之间的合作越来越多,但仍有一些差距可以防止这种干预措施被部署到其全部效力。

我们如何确保存储有关骚扰事件的数据的隐私和安全性?

虽然完全隐私和安全性在技术意义上是极大的不同,但我们设想了一个数据库设计,该设计在维护其可用性的同时保留了数据隐私。首先,提交事件报告表所需的信息字段将最大程度地减少收集的个人身份信息的数量。由于某些数据可以从公众和外部观察者群众中,因此数据集的这一部分将由现有的公共数据组成。只有共享针对目标的事件的个人(例如,直接消息)只能输入非公开可用的数据,并且将允许个人选择在数据库中可见还是仅在摘要统计信息中显示。此外,民间社会组织指导委员会将定期审查数据收集方法和数据库结构,他们将根据需要提出改进的建议。

集线器收集和报告的数据范围是什么?

数据收集和报告可以在国际上进行,因为我们认识到将数据收集到美国也将破坏我们的交叉性目标。但是,热线可能会对基于美国的问题有更多的全面支持。金博宝正规网址但是,从长远来看,作为跨国政府的跨企业努力,国际也可以在国际上进行扩展。