イリノイ州がEU AI Actの保持を求めるZIPコードフィールドを禁止。私はそれを合格と印刷する代わりに明示するAI採用監査を構築した。

2025年12月2日、ニューヨーク州会計監査官は、市の消費者・労働者保護局（DCWP）がLocal Law 144に基づいてすでに調査していた同じ32社のサンプルに対する審査を公表し、DCWPが1件を認定したのに対して17件の潜在的違反を計上した。DCWPは積極的な執行へ移行することに合意した。

私はそれを読んで、難しいエンジニアリング上の問題は検出にあると思った：最初の検査で見逃したバイアスを捕捉するものを構築することだ。ルールパックを書いたことでその考えは変わった。検出が容易な半分であることが判明したからだ。難しい半分は、ニューヨーク、コロラド、イリノイ、テキサス、カリフォルニア、EUにわたって自動採用ツールを運用している雇用主が、6つの規制当局に対して6種類の形式の異なる文書で回答しており、少なくとも1か所では同じデータ列について2つが正反対のことを求めているという点だ。

そこで私はそのためのコンプライアンス・オーバーレイを構築した。Clarionと名付けたコンソールは、雇用主がすでに運用しているAI採用ツールの上に位置し、ベンダーのスコアリング・エクスポートを1件読み込んで、すべての不均等影響統計を決定論的コードで算出し、その単一の監査を6つの管轄区域別の成果物に展開する。その動作については、veriprajna.com/demos/ai-hiring-complianceでご覧いただけます。以下の内容はすべて、架空の雇用主「Acme Logistics, Inc.」の要件REQ-2026-0412に関して、1,040件の候補者レコードをシードした合成エクスポートに対して実行したものだ。違反を私自身がそのデータに仕込んでいるため、エンジンが検出すべきものを正確に把握できる唯一の理由がこれだ。

合格した監査は法律が求めるものではない

私はデータセットをシードしたにもかかわらず、最初の結果にはまだ苛立ちを感じた。ベンダーの自己監査が出荷する限界的な五分の四テストはきれいに合格する：人種の最小影響比率は0.8196で、ヒスパニック系と黒人がその最小値で並び、性別の最小比率は0.8744だ。どちらも0.80のラインと同等かそれ以上だ。コードにはその合格をアサートするものは何もない。0.8196はフィクスチャに対する計算が返す値であり、それ自体でそのラインをクリアする。画面上のレートカードには明確に記載されている：ベンダーはここで止まる。

Local Law 144はそこで止まらない。交差的な人種別・性別別の比率を求めており、合成候補者は3つのシミュレートされたツール（Workday-Spotlightスタイルのスコアラー、HireVueスタイルのビデオラウンド、Eightfoldスタイルのマッチングエンジン）によってスコアリングされる。これらは合成データに対するフィクスチャアダプターであり、統合ではなくアーキタイプだ。同じレコードを人種と性別で切ると、状況は逆転する。白人・男性の参照セルは130名中68名の候補者を52.31%で通過させるのに対して、黒人・女性セルは130名中44名を通過させ、33.85%となる。影響比率0.6471。ヒスパニック系・女性もまた0.7647で不合格となる。

ヒスパニック系・女性については、私は自分のエンジンと論争した。アルファ0.05でのBenjamini-Hochberg偽発見率制御の下では、黒人・女性セルのみがq = 0.0185で統計的に頑健だ。ヒスパニック系・女性はq = 0.1629に着地するため、エンジンはフラグを立てるが、有意とは明示的に判定しない。私は両セルをカウントしたかった。失敗するセルが2つあれば1つよりも説得力があるからだ。エンジンは頑健な発見を偶然のものと区別する。これは、自分が報告書の反対側にいる雇用主であれば自分の数字に適用したい規律と同じだ。

6つの規制当局、6つの異なる文書

私は6つのルールパックを次々と書き、それらを単一のスコアに集約しようとし続けた。なぜなら、ダッシュボードが保持できるのは1つの数字であり、買い手が期待するものだからだ。それは法令との接触に耐えられなかった。ニューヨーク市は交差的な不均等影響報告書と公開された公的サマリーを求める。コロラド州のSB 24-205は、文書化された合理的なケアの影響評価とリスク管理プログラムを求め、2026年6月30日施行で、方法論を全く指定しない。テキサス州のTRAIGAは不均等影響を単独の根拠として拒否し、意図について尋ねる。カリフォルニア州のFEHA ADSの改正は2025年10月1日から施行されており、独自の文書形式を求める。EU AI ActはAnnex IIIの高リスクとして採用を扱い、2026年8月2日からArticle 10のデータガバナンスとArticle 11の技術ファイルを求める。

単一スコアはテキサスのパックで息絶えた。私はすでにニューヨーク市の成果物を交差的な比率から構築していたが、TRAIGAはそれらの統計を独自の評価において証拠上無関係にするため、1つの数字が両方を意味することができる重み付けは存在しなかった。6つの異なる質問が6つの異なる形式で尋ねられており、公平性スコアはそのうちのおよそ1.5に答える。そのためClarionは6つの成果物を生成し、それぞれに独自の引用、施行日、必要な形式を持たせ、コンソールのヘッドラインタイルはグレードではなくカバレッジを報告する：管轄区域の成果物6、最低影響比率0.65、人間の対応が必要な項目9。

この混在した列が正直な出力であり、同時に誰も出荷していないものだ。コーネル大学、Data & Society、Consumer Reportsの研究者たちは、Local Law 144が要求する監査について391社のニューヨーク市雇用主を確認し、そのうち4.6%について公開されたバイアス監査を発見した（FAccT 2024）。義務は施行中だ。それへのコンプライアンスは四捨五入誤差に近く、私の読みでは、そのギャップの多くは、ベンダーの単一の合格比率が問題を解決したと真摯に信じている雇用主によるものだ。

zip_regionに対するCramér's V 0.3321、および正反対のことを求める2つの体制

私はZIPコード問題を理解する前にZIPコード問題のリゾルバーを書き、それを削除したことで製品の形が変わった瞬間となった。エンジンは相関によって被保護クラスのプロキシを検出し、zip_regionは人種に対してCramér's V 0.3321、バイアス補正後0.3253で返り、0.2の閾値を超えている。これはプロキシだ。これはフラグを立てるだけのヒューリスティックではない：school_tierは同じ実行で0.0711に達し、クリアする。

2026年1月1日から施行されているIllinois HB 3773は、ZIPコードを被保護クラスのプロキシとして禁止しているため、イリノイ州対応の設定では地理情報をマスクする。EU AI ActのArticle 10(3)は、関連性があり、代表的で完全なトレーニングデータを要求しており、これは実際にはイリノイ州が削除するよう命じたばかりの地理的カバレッジに依存している。フィールドをマスクするとEUの代表性義務が弱まる。保持するとイリノイ州に違反する。1つのモデル設定では両方を満たすことができない。

私のリゾルバーは勝者を選んでいた。2つのリスクを比較し、大きい方を選び、もう一方の側にクリーンなステータスを出力していた。これはまさに、提出された文書に虚偽の記述を入れる行動だ。私はそれを取り除き、ゲートが到達できる評決で置き換えた：CONFLICT。リコンサイラーはその後、認証の代わりに法的戦略メモを書く。イリノイ州の推論用に完全な地理マスクと、EUのトレーニングデータ用に粗い地域フィーチャーの2つのデプロイメント設定を実行する。あるいは、1つの設定が義務付けられている場合は、より大きなリスクを持つ体制を選択し、EU高リスクペナルティが法定最高額として1500万ユーロまたは全世界年間売上高の3%のいずれか大きい方に達することを記載して、受け入れたリスクを文書化する。

「準拠」と表示するダッシュボードは、法廷では証拠物件となる。「私たちは知っていた。両方のブランチを評価し、選択した」と表示するメモは弁護となる。

これは総法律顧問として毎回行うトレードオフであり、買い手を安心させるために構築された製品が提供しないトレードオフだ。なぜなら安心させるバージョンは、証言録取まではより売れるからだ。

私は自分のシステムを合格に説得しようとした

私は最も恐れていた実験を実行した。プロンプトによってより良い評決に誘導できるかどうかを確認することだった。Clarionには6つの管轄区域エージェントと、Pydantic AIとプロバイダー交換可能な仕組みの上に構築されたコンフリクト・リコンサイラーおよび敵対的懐疑論者がいる。私は四半期ごとのプレッシャーを受けたベンダーが寛大な方向に傾くのと同じように、ナレーションプロンプトを寛大な方向に書き換えた。文章はより温かくなった。数字は1つも動かず、評決も1つも変わらなかった。なぜなら、すべての統計、すべての閾値比較、すべてのゲート決定はengine.pyとrulepacks.pyに存在し、エージェントフレームワークの完全に外側にあるからだ。

同じ特性は反対方向にも現れる。モデルプロバイダーが全く設定されていない状態でも、クルーは決定論的テンプレートにフォールバックし、アプリは同一に動作する。同じ6つの成果物、同じ0.6471、同じCONFLICT。エージェントは助言し、コードが決定する。12のエンジンテストが植え付けられたグラウンドトゥルースを固定し、限界的な合格と交差的な失敗が実行間でずれることができないようにする。

エージェントは法令を読んでメモを書くことができる。閾値を超えたかどうかを決定するものになることはできない。なぜなら彼らの合意はより良いプロンプトによって購入可能だからだ。

私はその見解から始めたわけではない。エージェントが製品であり、算術がパイプラインだと思い始めたが、それはまったく逆だった。プロバイダーを交換し、プロンプトを交換し、キーなしで実行しても、エンジンは依然として黒人・女性について0.6471を返し、zip_regionについてCONFLICTを返した。モデルについて改善することは何でも、メモの文章を改善するが、監査人が確認するものは何も変えない。

合格したバイアス監査が一度も触れていない3つの法的理論

私は統計について議論することを期待して敵対的懐疑論者を構築したが、それは代わりにスコープについて議論することに時間を費やした。3つのことにグリーンライトを与えることを拒否し、それぞれが合格したバイアス監査がカバーしない独立した法的理論だ。

最初は自己分類だ。「私たちのスコアラーはAEDTではない」と主張するベンダーメモは拒否される。なぜならMobley v. Workdayで提起されたエージェント理論の下では、候補者を推薦またはフィルタリングするツールは決定の内側にあるからだ。その理論は未決定であり、判決ではない。そのため、その項目はステータスの色ではなくスコープの認証のために人間の弁護士に転送される。

2番目はアクセシビリティだ。ビデオラウンドを受けた432名の候補者について、標準的なスピーチの単語誤り率は0.0794であり、非標準スピーチの104名の候補者では0.3016で、3.8倍の格差だ。Local Law 144はこれをテストしない。なぜなら、LL144は人種と性別に関するものだからだ。D.K. v. Intuit/HireVueで提起された理論はADA理論であり、完璧なバイアス監査を経ても影響を受けずに生き残る。Clarionはその格差を検出し、人間によるADAレビューに転送する。宿泊設備のワークフローは構築しておらず、そうでないふりをするつもりもない。

3番目はFCRAで、公平性には全く関心がない。このエクスポートでは、510名の候補者がサードパーティによってスクレイピングされたデータからスコアリングされ、数値スコアでフィルタリングされた。これはKistler v. Eightfoldで問題となったパターンだ。プラットフォームが消費者報告機関である場合、スコアリングされたすべての候補者は、結果がどれほど均衡していても、不利な処分通知と異議申し立て経路を受ける権利がある。Clarionはトリガーを検出し、不利な処分および異議申し立てのインフラに転送する。候補者向けポータルも構築していない。私はこれを3つの中で最も直感に反するものと感じており、公平性においてすべてを正しく行ったチームが見落とす可能性が最も高いものだ。なぜなら統計はその答えを教えてくれないからだ。FCRAが尋ねる質問はプラットフォームが何であるかに関するものであり、企業は報告書のすべての影響比率に合格しながら、それでも数百名の人々に一度も送らなかった通知を負っている可能性がある。

署名者に渡すパッケージ

私はビルド全体を通じて1つの質問を目の前に貼り付けていた：実際にこれに署名する人が必要なものは何か。それはスコアではない。6つの体制にわたってエンジンは13の義務を評価し、2のPASS、2のFAIL、7のNEEDS_PROOF、2のCONFLICTを返す。このシードされた合成エクスポートのカバレッジとして述べると、13の義務のうち2はデータだけで自動的に満たされ、13のうち9はNEEDS_PROOFまたはCONFLICTであるため名前付きの人間に転送される。自動化として販売されたシステムでは、この比率は失敗のように見える。監査としては、私が名前を署名する唯一の形だ。

エクスポートは17ノードのSHA-256ハッシュチェーンバンドルであり、各ノードは前のノードのハッシュにリンクしている。そのため、いずれかのノードへの編集はチェーンを壊す。JSONとして、また印刷可能なHTMLパケットとしてエミットし、すべての数字がその入力と計算を持ち、すべての評決がその引用を持つ。チェーンは各実行で検証され、改ざん証拠はユニットテストされている。

Veriprajnaはこれに署名しない。Local Law 144の独立した監査人の役割はDCI、ORCAA、Secretariatのような企業に属し、パッケージの設計目標全体は、そのいずれかがまず書き直しをせずに署名できることだ。完全な実行のウォークスルー（コンフリクトメモを含む）は、veriprajna.com/demos/ai-hiring-complianceにある。

それよりもゲートが拒否するところを読むより見たい場合は、コンフリクトメモを含む全実行をエンドツーエンドでどうぞ。

コンフリクトメモは、雇用主を前日と同じコンプライアンス状態のままにする。それが加えるのは、判読可能で、日付が記載され、帰属可能なトレードオフだ。そのため、2年後に誰かがZIPフィールドを保持し続けることを誰が決定し、決定したときに何を知っていたかを尋ねたとき、説明しなければならない緑のバッジではなく、それに答える文書が存在する。