AI家主審査ツール、差別訴訟を受けて低所得テナントの採点を停止

家主が使用する AI スクリーニング ツールである SafeRent は、住宅バウチャーを使用する人が良い入居者になるかどうかを評価するために AI を利用した「スコア」を使用しなくなります。水曜日、米国地方判事エンジェル・ケリー氏は、 最終承認を発行しました セーフレントが収入や人種に基づいてテナントを差別するのを防ぐため、約230万ドルの和解金が支払われた。

の 和解は2022年に起こされた集団訴訟に基づくもの マサチューセッツ州で。訴訟では、セーフレントのスコアリングシステムが住宅引換券を利用する人々、特に黒人とヒスパニック系の申請者に不当に損害を与えたと主張している。訴状ではマサチューセッツ州法への違反に加え、住宅差別を禁じる公正住宅法にも違反しているとしてセーフレントを告発した。

最初の訴訟で概説されているように、SafeRent のスコアリング アルゴリズムは、信用履歴やレンタル関連以外の負債などの要素を使用して、潜在的なテナントに SafeRent スコアを割り当てます。家主はこのスコアを使用して、誰かの賃貸申し込みを受け入れるか拒否するかを決定できます。訴訟では、セーフレントがどのようにして個人のスコアを決めたかを家主に伝えていないため、このプロセスは透明ではないと主張した。また、このシステムは、黒人やヒスパニック系の入居者、住宅バウチャーを使用する人々に不当に低いスコアを割り当て、家主が住宅申請を拒否したとされている。

5年間の和解に基づき、セーフレントは全国の住宅引換券を使用する申込者に対するテナント審査スコアを表示しないことになり、家主が同社の「手頃な価格の」セーフレントスコアモデルを使用する場合のスコアを含めることもできない。 SafeRent のサービスは、住宅バウチャーを使用する人の申請を「承認」するか「拒否」するかについての推奨事項を表示することもできません。これは、家主が単にセーフレントスコアを使用するのではなく、住宅バウチャーを使用する借主をその記録全体に基づいて評価する必要があることを意味します。

「信用スコアやセーフレントスコアなど同様にモデル化されたスコアは、信用債務の返済を予測する際にのみテストされた情報に基づいている」と国立消費者法センター所長のシェナン・カバナー氏は声明で述べた。 「そのようなデータがテナントの家賃支払いを予測するという証拠はない。」

和解の一環として集められた資金は、住宅バウチャーを使用したがセーフレントのテナントスコアのせいで住居を確保できなかったマサチューセッツ州在住の賃貸希望者に送られる。 「セーフレントは、SRS（セーフレント・ソリューション）スコアが適用されるすべての法律に準拠していると信じ続けているが、訴訟には時間と費用がかかります」とセーフレントの広報担当ヤズミン・ロペス氏は声明で述べた。 ザ・ヴァージ。 「この件でSRSスコアを擁護することは、住宅提供者に申請者の審査に必要なツールを提供するという中核的使命を果たすためにセーフレントが有効に使える時間とリソースを浪費することになることがますます明らかになった。」

SafeRent は、法的手段に直面する最新のアルゴリズム駆動の不動産管理ソフトウェアです。司法省は8月、同社のアルゴリズム価格設定ソフトウェアが家賃を値上げしているとしてRealPageを訴えた。