人工智能“迫使”租户

黑人保安路易斯表示，2021年2月，当房东同意以便宜的价格租用马萨诸塞州的一套公寓时，她非常兴奋。当她来看房时，物业公司表示不会有任何问题，很快就会接受租赁申请。尽管她的信用评分很低，还有一些信用卡债务，但她因为17年来一直按时缴纳租金而获得了前任业主的好评。

美国的房子贴着出租牌子。照片： 域名

Louis还获得了低收入租户的代金券，确保管理公司至少能收到政府支付的月租金的一部分。文件上列出的她儿子的信用评分很高，表明如果逾期付款，他可以协助付款。

然而，2021年5月，管理公司向路易斯发送电子邮件：“第三方服务已经筛选并否认了您的租赁状态不幸的是，您的 SafeRent 分数低于我们的标准允许的分数。”

计算机程序SafeRent给路易斯的“评分”低于443分——租房的最低水平。消息发布后没有进一步解释，她只好寻找更昂贵的公寓。

SafeRent 将人工智能算法应用于租赁应用程序，该算法会考虑信用记录、破产记录、拖欠账户、付款表现和驱逐历史。该算法评估了申请人的风险，但没有考虑到住房券的好处，而住房券是针对低收入租房者的。

路易斯并不是唯一一个。同州的莫妮卡·道格拉斯（Monica Douglas）也无法租到房子，因为该软件将她评为不合格，迫使她寻找远离工作地点的房子。

看到像 SafeRent 这样的评级软件的荒谬之处，两者都聚集了 400 多人美国各地都有类似情况。 2022 年初，他们向马萨诸塞州提起集体诉讼，指控 SafeRent 背后的公司 SafeRent Solutions 使用包含违反联邦反歧视法的算法的软件。ng，包括有色人种、低收入人群的较低分数，基于金融信用评分，不考虑租赁历史和支付租金的能力。

“我的信用不好。但人工智能并不了解一切。它知道我Louis 女士告诉

卫报。

12 月 12 日，法院宣布 SafeRent Solutions 必须赔偿原告230万美元，停止使用AI评分系统，或者如果他或她拥有5年的住房信用凭证，则必须出租房屋。

SafeRent Solutions表示将遵守法院命令，改变其核心产品，但不承认有“胁迫”行为。公司发言人亚兹明·洛佩兹 (Yazmin Lopez) 表示：“我们相信分级功能仍然符合现行法律，但上诉需要很长时间且费用高昂。”使用算法或人工智能程序对美国人进行筛选和评分并不陌生。在多年来，人工智能悄然帮助做出与人类相关的重要决策。当一个人申请工作、申请住房贷款，甚至寻求医疗护理时，很可能某些系统或人工智能算法正在对其进行评估。大多数都是自动发生的，尽管有些被发现具有歧视性。

根据法律援助协会成员、律师凯文·德·利班（Kevin de Liban）关于人工智能有害影响的报告，美国 9200 万低收入人群中的许多人美国“拥有”人工智能在工作、住房、医疗、学校或政府福利方面做出的决定，

“人工智能系统不应该做出决定，而应该只给予利班说，“做出许多不同的假设供人类选择”，并提到人工智能正在利用“垃圾统计科学”做出“荒谬”的决定。

消费者报告研究公司 7 月发布的一项调查发现，大多数美国人对人工智能和技术在住房等重要问题上做出的决策感到“不舒服”就业和医疗保健。大多数人说“不安全”，因为他们不知道人工智能使用什么信息来评估它们。

美国许多州的立法者已经提出了许多控制此类人工智能工具的提案，但大多数都没有改变。然而，据

Newsone

报道，Louis 和 400 人在 SafeRent 诉讼中的胜利，为未来 AI 问责开创了先例，也为控制他们制定了新法律。 ' 网上购物时与聊天机器人互动