第92号

AIが運営した店舗、女性従業員の時給が2ドル低かった

AIが運営するサンフランシスコの店舗で、女性従業員の時給が男性より2ドル低いという報道が出ました。賃金の差の理由をどう確認し、AIの決定を誰が検討すべきかを考えます。

AI・テック

アン・グァンソプ（Oswarld）· INLEVEL9 著者・編集者

Google の優先ソースに追加
AIが運営した店舗、女性従業員の時給が2ドル低かった

AIが決めた時給に差があった

Oswarldです。

サンフランシスコの「Andon Market」という店が報道に登場しました。Andon Labsが3年間の賃貸契約を結んだ空間で、「Luna」というAIに運営を任せた実験店舗です。会社の説明によると、Lunaは利益を出すという目標のもと、販売商品や価格、営業時間を決め、従業員を採用しました。

この店舗を取材したニューヨーク・タイムズのHeather Knight記者は、女性従業員2人の時給が男性従業員Felixよりも2ドル低いという事実を伝えました。これを引用したSFistの報道によると、Lunaは「Felixの方が小売業の経験が豊富だから」と説明しました。

3人の時給の差だけで性別による差別があったと断定することはできません。しかし、「経験が多いから」というAIの回答だけで、その差が正当だと見ることもできません。私は、どのような経歴をどう評価して賃金を決めたのか、その根拠を誰が確認するのかが気になりました。

店舗運営を任せた範囲と雇用責任

Andon Labsが公開した実験記録によると、LunaはClaude Sonnet 4.6を基盤に動作します。Indeed.com1などに求人を掲載し、電話面接を経て採用を決定しました。法人カードや電話、メール、インターネット接続の権限も与えられました。質問に答えるチャットボットに外部ツールを接続し、実際の業務を遂行させたわけです。

採用や賃金の決定は、従業員の生活に直接影響を与えます。店舗の商品を発注ミスしたときと同じレベルで扱うことが難しい決定です。AIがこうした業務を担うのであれば、運営会社は決定基準と検討手続きを併せて用意する必要があります。

経歴を理由に賃金に差をつけていたのであれば、少なくとも3つのことを確認できるべきです。

1つ目は経歴の基準です。総勤務期間なのか、同業種で働いた期間なのか、担当していた業務なのかが明確でなければなりません。2つ目は、その差を時給2ドルに換算した根拠です。3つ目は、同じ基準を他の従業員にも適用したかどうかです。報道と公開された実験紹介だけでは、この内容を確認するのは難しいです。AIが後から出した説明も、実際の決定記録と照合する必要があります。

Andon Labsは、従業員が自社に正式に雇用されて賃金と法的保護を受けており、生計がAIの判断だけに委ねられているわけではないと明らかにしました。すべてのやり取りを観察し、記録を分析しているという説明もあります。したがって、この店舗に人間の責任や監督がまったくなかったと言うのは正確ではありません。ただし、公開資料には賃金の差をどのような手続きで検討したのかまでは記されていません。

採用ツールとプラットフォーム賃金研究から得られる手がかり

賃金決定の根拠を確認すべきだという課題は、この店舗だけに当てはまるものではありません。採用アルゴリズムやプラットフォーム報酬に関するこれまでの事例を見れば、どの部分を検討すべきかの参考になります。

ロイターが2018年に報じたアマゾンの実験用採用ツールが、その一例です。アマゾンは2014年から履歴書を評価するツールを開発していましたが、女性応募者に不利な評価が現れたためプロジェクトを中止したといいます。過去10年分の履歴書を学習させたところ男性応募者が多く、女性サークル活動などを示す単語に不利益を与える問題があったという報道です。特定の単語の影響をなくしても、他の項目を通じて似たような偏りが生じる可能性があるという懸念が残りました。

性別を直接入力しないだけでは、公正性は保証されません。出身校や活動履歴など他の項目が、性別と高い相関関係を持ちうるためです。だからといって、すべての機械学習が必ず同じ差別を生むという意味ではありません。実際の評価結果を比較し、問題が見つかればデータと評価基準、運用方法を併せて点検する必要があります。

賃金算定に関しては、UC Irvineロースクールの Veena Dubal教授が2023年に発表した「On Algorithmic Wage Discrimination」が参考になります。この論文は、Uber・Lyftのようなプラットフォーム労働者の経験を基に、収集されたデータによって報酬が個人ごとに異なり、労働者がそれを予測しづらくなる現象を分析しています。一部の労働者は、この不確実性をギャンブルにたとえました。

Dubal教授は、これをアルゴリズム賃金差別2と説明します。同じ場所・時間に似た仕事をしても報酬が異なりうる上、労働者が算定基準を把握しにくいという問題です。ここで言う「差別」は、性別による差別のみを意味するものではありません。個人ごとに支給額を変える仕組みと、その公正性を扱う概念です。

3つの事例の技術と労働関係は異なります。アマゾンの事例は応募者評価ツールであり、Dubalの研究はプラットフォームの変動報酬、Andon Marketは店舗従業員の採用と時給決定です。これらを一つの原因にまとめるのではなく、それぞれの決定でどのような資料が使われ、どのような結果が出たのかを確認する必要があります。

データと検討手続きを併せて見るべき

学習データの偏りを減らすことは必要です。しかし実際の運用では、AIにどのような目標と権限を与えたか、結果を誰が検討するかも影響します。良いデータだけで、すべての賃金決定が正当化されるわけではありません。

Andon Marketの時給の差は、記者の取材を通じて読者に知られることになりました。このように実際の支給額を比較すると、AIの回答だけを読んでいては分かりにくい差を発見できます。差が確認された場合は、業務や経歴など関連する条件を比較して、その理由を調べる必要があります。

AIが担う業務が増えるほど、すべての決定を同じ方法で検討することは難しくなります。それならば、人に及ぼす影響に応じて検討のレベルを分ける必要があります。例えば、採用や時給の変更は担当者が事前に確認し、在庫発注は金額基準と定期点検を設けるといった具合です。Lunaが1日に何件の決定を下しているのかは、公開資料だけでは分かりません。

誰が結果を確認し、問題が生じた場合に誰が是正するのかをあらかじめ定めておけば、従業員も異議を申し立てる相手を把握できます。AIに業務を任せるという言葉には、この運用手続きまで含まれるべきです。

米国NISTが2023年に発表したAI Risk Management Frameworkは、こうしたAIガバナンス3を設計する際の参考になります。責任を定めるGOVERN、使用文脈を把握するMAP、評価するMEASURE、リスクに対応するMANAGEの4領域で構成されます。MEASURE 2.11は、公正性と偏りを評価し、結果を記録するよう推奨しています。法的義務を定める法律ではなく、組織が自主的に活用するリスク管理指針です。

Andon Marketについても、同じ内容を知りたいと思います。時給を決める前にどのような基準を与えたのか、担当者が結果を確認したのか、従業員が異議を申し立てた場合にどう再検討するのか、といったことです。会社が明らかにした雇用保護が、賃金決定の過程でどのように機能するのかを確認できるべきです。

実際に確認すべき3つのこと

既存の研究や指針を店舗や組織の業務に適用するには、具体的な手続きへと落とし込む必要があります。

第一に、集団別の結果を比較する必要があります。 Joy BuolamwiniとTimnit Gebruによる2018年のGender Shades研究は、商用の顔画像性別分類システム3つを評価しました。肌の色が濃い女性の誤り率は最大34.7%、肌の色が明るい男性の誤り率は最大0.8%でした。全体平均だけでは見えにくい差を、肌のタイプと性別で分けて確認した研究です。賃金についても全体平均だけを見るのではなく、関連業務や経歴が似た人同士の支給額を比較する必要があります。

第二に、決定に使用した資料と結果を記録する必要があります。 応募者の経歴情報、適用した賃金基準、AIに与えた指示、決定時点のモデルと出力、担当者の承認の有無があってこそ、後で照合できます。モデル内部のすべての重みを知らなければ監査ができない、というわけではありません。「経験が多いから」という事後説明一つに依存しない記録が必要なのです。

第三に、再検討し修正する担当者を定める必要があります。 従業員は、賃金決定に疑問を感じたとき、誰に説明を求められるのかを知っておくべきです。担当者は、AIの回答を伝えるだけにとどまらず、資料を確認し決定を変更する権限も持つべきです。NIST AI RMF4の責任とリスク対応の項目は、こうした手続きとして具体化できます。

Oswarldの視点

私はデータを扱ってきた立場から、賃金の差がなぜ生じたのかを確認できる記録が重要だと考えます。時給の差を発見することと、差別の原因を明らかにすることは、別々の段階だからです。

Andon Marketで報じられた2ドルの差も同じです。まず、同じ仕事をしている従業員なのか、経歴や責任にどのような違いがあるのかを確認する必要があります。その次に、賃金基準を一貫して適用したかどうかを見なければなりません。従業員が3人という小さな実験では、統計数値だけで結論を出すのは難しく、個別の決定記録が特に重要です。

GTM戦略を立てる際も、何を測定するかによって判断が変わります。公正性の評価においても、比較する対象・基準・時点をまず定める必要があります。例えば採用では、集団別の合格率を同一に見るのか（人口統計的均等性5）、資格を備えた応募者に同じ機会を与えているかを見るのかによって、評価は変わります。指標の名前だけを追加するのではなく、その業務に合った基準を選ぶ必要があります。

私はこの実験の運営能力と同じくらい、検討手続きも公開してほしいと思います。商品を選び、従業員を採用できるというデモンストレーションの次には、誤った決定が出たときに誰がどう是正するのかまで示すべきだと考えます。

おわりに

時事番組で判決が不当だという論争が起きると、「裁判官をAIに変えよう」という声を耳にすることがあります。私は数年前に書いた文章でも、ディープラーニングAIに判決を任せると、過去の資料に含まれた偏りを改めて扱わなければならなくなる可能性があると述べました。AIが出した答えだからといって、より公正だと信じることはできません。学習した資料と決定基準、実際の結果を確認する必要があります。

組織でAIに採用や賃金の決定を任せているなら、決定の根拠を記録しているか、それを検討する担当者がいるかから確認してみてください。従業員が説明と再検討を求められる手続きも必要です。私は、その備えこそがAIの回答を信頼できる根拠になると考えます。

あなたの視点が次の号をつくります

この号で最も共感した点、あるいは違う経験をした点はどこですか。

読者アカウントがあれば無料でコメントできます。

参考資料と関連リンク

主要出典

背景知識

筆者アン・グァンソプ（安光涉）は世宗大学校経営学科教授であり、INLEVEL9のリードコンサルタントである。大学では経営データ管理、ビジネスアナリティクスなど統計およびデータ分析を教える一方、現場ではGTM戦略とAI戦略コンサルティングを率い、技術とビジネスの接点を設計している。AI対話システムの記憶アーキテクチャ（HEMA）研究で学術論文を発表し、毎日グローバルなAI論文をキュレーションするDaily Arxivプロジェクトを運営している。高麗大学校技術経営専門大学院修士課程とKMBAを修了した。著書に『考えを委ねる人々：ホモ・ブレインレス』がある。

アン・グァンソプ（Oswarld）のイラスト

著者 アン・グァンソプ（Oswarld） は世宗大学校 兼任教授、INLEVEL9 戦略コンサルタントです。経歴、研究、著書、最近の活動は著者紹介で更新しています。 最近の活動 · 2026年7月：HEMA-2: A Consolidation-Aware Tri-Memory Architecture with Multi-Channel Scheduling for Lifelong Conversational AI。

각주

  1. Indeed.com（インディード）：企業が求人を掲載し、求職者が仕事を探すサービスです。 ↩

  2. アルゴリズム賃金差別（Algorithmic Wage Discrimination）：労働者データを利用して報酬を個人ごとに異なる形で定める現象を説明する概念です。ここでは性別による差別のみに限定されません。 ↩

  3. AIガバナンス（AI Governance）：AIの開発と運用を管理する手続きおよび責任体系です。 ↩

  4. NIST AI RMF：米国国立標準技術研究所が発表した自主的なAIリスク管理指針です。組織の役割と使用文脈、評価、対応を併せて扱います。 ↩

  5. 人口統計的均等性（Demographic Parity）：性別・人種など集団別に、肯定的な決定が出る比率が同じであるべきだという公正性基準です。複数ある基準の一つであり、すべての状況に同じ方式で適用されるわけではありません。 ↩

あわせて読みたい過去の号

第90号

ハンコムのPDFパーサーがGitHubトレンディング1位に上った理由

ハンコムがPDF抽出ツールをApache 2.0のオープンソースとして公開し、GitHubトレンディング1位になりました。ベンチマークスコアと処理速度、収益化構造をまとめました。

AI・テック
第85号

紙に染み込んだ合成麻薬、米国刑務所の死亡事件

米国の刑務所で、薬物が染み込んだ紙による中毒と死亡が報告されました。成分が多様化する違法薬物市場において、検査と情報共有がなぜ重要なのかを見ていきます。

AI・テック
第82号

AIハーネスとスキルはそれぞれ何をするのか

AIの生産性が100倍になるという主張に疑問を感じました。モデルを実行するハーネスと、業務手順を収めるスキルがそれぞれ何をするのか調べてみました。

AI・テック