社会创新
第一天项目

使用自动决策系统的贷款平台算法透明度要求

04.04.23 | 6 min read | 文字莎拉·霍普·马歇尔(Sarah Hope Marshall)

概括

现在是时候确保私营公司提供的贷款模型是公平和透明的。获得负担得起的信用会极大地影响生活质量,并可能影响住房选择。在过去的十年中,算法的决策越来越多地影响了美国消费者的生活。但是,重要的是要确保所有形式的算法承销都开放,以审查公平性和透明度,因为不平等可能会出现在获得资金或信用额度中。A最近的报告美国财政部发行的表明,需要在金融科技市场上进行更多监督。

Challenge and Opportunity

金融服务业是一个历史上非技术行业,最近已广泛采用自动化平台。金融技术被称为“金融科技”,由私人公司直接向消费​​者或与银行和信用合作社合作提供金融产品和服务。这些平台使用非透明的算法,但直接影响美国人获得负担得起的融资的能力。金融机构(FIS)和抵押经纪人使用预测分析和人工智能来评估抵押产品,小型企业贷款和无抵押消费产品的候选人。一些贷方通过人工智能承保了个人贷款,例如汽车贷款,个人无抵押贷款,信用卡和信用额度。尽管没有政府确定的贷款受到较少的审查,但出于个人目的获得信用量会影响债务收入比率和信用评分,以获得资格获得房屋所有权或小企业主的全球现金流量。历史悠久的房屋抵押贷款披露法(HMDA)数据和有关小型企业贷款的研究表明,出现抵押和小型企业贷款的机会。通过未经审核的决策自动化变量,不会改善这种情况,这可以创建有可能扩展不平等的反馈循环。

歧视形式出现在信用批准软件中,并可能阻碍住房的访问。洛雷娜·罗德里格斯(Lorena Rodriguez)广泛写作about the current effect of technology on lending laws regulated by the Fair Housing Act of 1968, pointing out that algorithms have incorporated alternative credit scoring models into their decision trees. These newly selected variables have no place in determining someone’s creditworthiness. Inputs include factors like social media activity, retail spending activity, bank account balances, college of attendance, or retail spending habits.

对于典型的消费者来说,传统的信用评分模型虽然很麻烦,但他花时间了解如何影响其信用评分。但是,与信用评分模型不同,贷款平台可以输入数据变量,而无需披露影响决策的模型。换句话说,消费者可能永远不会理解为什么他们的贷款被批准或拒绝,因为没有披露模型。同时,可能还不清楚哪些消费者是为了筹集资金机会,而贷方可能以财务上的脆弱消费者的态度来获利但掠夺性贷款。

Transparency around lending decision models is more necessary now than ever. The COVID-19 pandemic created financial hardship for millions of Americans. The Federal Reserve Bank of New York recently reported历史最高点在美国的家庭债务中。在不断上升的利率环境中,负担得起的和公平的信贷访问将变得更加至关重要,以帮助家庭稳定。尽管人工智能已经使用了数十年,但公众直到最近才开始意识到其用途对日常生活的道德影响。研究人员指出,算法的决策已经散发出来,这有可能加剧种族财富差距,并按种族和阶级通过种族和阶级进行重新聚调。尽管各种机构(例如消费者金融保护局(CFPB),联邦贸易委员会(FTC),金融犯罪执法网络,证券和交易委员会以及州监管机构)对金融科技公司的一定程度的权限,但存在监督差距。尽管金融科技受到公平贷款法律的约束,但对不同的影响或治疗还不足,数字金融服务提供商的监管仍在不断发展。政策和法规的现代化对于跟上当前的数字环境是必要的,但是新的立法可以解决市场上现有政策可能无法涵盖的差距。

行动计划

三个原则应指导围绕金融科技的政策实施:(1)研究,(2)执法,(3)激励措施。这些原则平衡了监督和透明度,同时鼓励社区发展金融机构(CDFIS)和慈善贷方负责任的创新,这可能会导致更大的获得负担得起的信贷。机构间合作和新的监督机构的发展至关重要,因为金融科技由于技术,贸易和金融服务重叠而引起的复杂性。

建议1:研究. The FTC should commission a comprehensive, independent research study to understand the scope and impact of disparate treatment in FinTech lending.

为了确保公平,该研究应至少由六座研究所共同进行,其中至少两个必须是历史上是黑人大学和大学,并应设计以了解金融科技贷款的范围和影响。350万美元的拨款将确保精心设计的多年研究。需要深入了解金融科技的景观及其对不同影响的潜力。除了通过对货币审计长(OCC)和CFPB等机构的投诉,许多消费者没有足够的能力表达其挑战。即使在这些情况下,责任负担也在个人身上了解上诉渠道。轶事证据表明,Bipoc借款人和低至中等收入(LMI)的消费者可能是掠夺性贷款的目标。例如,LMI邮政编码可以用金融科技广告来定位,而产品项可能具有更高的利率。算法中的反馈回路将继续确定边缘化社区是更高的风险。具有较少手段的消费者也获得了比较三重利率,由于提取条件,将在财务上脆弱。

建议2:执法。应该实施一套执法机制。

Recommendation 3: Incentives.开发道德的金融科技认证,表示金融科技是负责任的贷方,例如由美国财政部的CDFI认证建立的。

The certification can sit with the U.S. Treasury and should create incentives for FinTechs demonstrated to be responsible lenders in forms such as grant funding, procurement opportunities, or tax credits. To create this certification, FI regulatory agencies, with input from the FTC and National Telecommunications and Information Administration, should jointly develop an interagency menu of guidelines that dictate acceptable parameters for what criteria may be input into an automated decision model for consumer lending. Guidelines should also dictate what may不是在贷款模型中使用(例如:出勤学院)。确定是合法的业务必要性后,必须记录,审查和批准准则的例外。

结论

现在是时候提供政策指导,以防止由于算法知情的偏见贷款实践而导致的少数群体,BIPOC和其他传统边缘化社区的影响和损害。

Doesn’t the CFPB regulate FinTechs?

Yes, but the CFPB’s general authority to do so is regularly challenged as a result of its independent structure. It is not clear if its authority extends to all forms of algorithmic harm, as its stated authority to regulate FinTech consumer lending is limited to mortgage and payday lending. UDAAP oversight is also less clear, as it pertains to nonregulated lenders. Additionally, the CFPB has the authority to regulate institutions over $10 billion. Many FinTechs operate below this threshold, leaving oversight gaps. Fair lending guidance through financial technology must be codified apart from the CFPB, although some oversight may continue to rest with the CFPB.

Will it be difficult to require private companies to submit reports on loan distribution?

目前正在通过CFPB执行《 Dodd-Frank Act》第1071条,以监管小型企业贷款数据。法规将需要对小型企业贷款数据进行财务披露。其他政府计划,例如CDFI基金,目前需要交易级报告,以借给联邦资金附加的贷款数据。随着时间的流逝,私人公司供应商可能会开发工具来支持有关贷款的报告要求。还可以通过愿意提交数据的负责任贷方(例如认证或税收抵免)等机制来激励数据收集。

谁应该负责监管在线贷款平台?

The OCC has proposed a charter for FinTechs that would subject them to regulatory oversight (see policy recommendation). Other FI regulators have adopted various versions of FinTech oversight. Oversight for FinTech-insured depository partnerships should remain with a primary regulatory authority for the depository with support from overarching interagency guidance.


具有执法机构和国会拨款的新监管机构将是理想的选择,因为金融科技是一种独特的贷款形式,它涉及影响消费者贷款,监管私人业务以及数据隐私和安全性的问题。金博宝正规网址

Won’t new lending models mean expansion of access to credit for traditionally underserved consumers?

发薪日贷方经常使用该论点,这些贷方提供具有高度,掠夺性利率的产品。并非所有获得信贷的形式都是负责任的信用形式。除非金融科技作为慈善贷方运行,否则其目标是利润最大化,这与消费者保护并不十分吻合。实际上,研究表明金融科技在金融科技上的承诺不足。

Private lenders that are not federally insured are not regulated. Why should FinTechs be regulated?

许多私人贷方受到监管:发薪日贷款人一旦达到一定的阈值,就会受到CFPB的监管。当地商店和抵押经纪人受国家部门的金融法规约束。金融科技还具有不同程度的伤害的独特潜力,因为它们的自动化技术和算法评估允许可伸缩性,并可以创造出不同影响的增强反馈回路。

1
CFPB reviews Rent-A-Bank models, which allow fintech lenders to skirt state lending caps and licensing laws.