ハクスリーのインタビューを見て、レコメンドアルゴリズムの目標を考え直しました

オルダス・ハクスリーがジョン・モーガンと対話する1961年のBBCインタビュー映像を見ました。技術が進歩する方向と人が望む生活がずれることもあるという話が、長く心に残りました。データを扱う仕事をしている私にとっては、効率が上がったという理由だけである技術を良いと評価してよいのか、振り返らせる対話でした。

私が映像を見ながら思い浮かべたのは、レコメンドアルゴリズムでした。次に見る映像や読む記事を選ぶのに助けてもらいますが、時には最初に探していたものとは違うコンテンツを見続けることにもなります。サービスが良い成果として数える行動が、ユーザーにとっても良い経験なのかは、別に考えてみるべき問題です。

ハクスリーの警告を今日の技術と結びつけて読む

BBCの編成記録によると、このインタビューは1961年7月30日に放送されました。ハクスリーは当時、社会と技術、ユートピアについての考えを語っています。

ハクスリーが懸念したのは、技術を作った目的と、その技術が社会の中で拡張していく方向が、必ずしも一致しないという点です。便利だという理由で受け入れた方式が、後には人が生活を合わせなければならない条件になり得るということです。私は今日、サービスが選択肢を配列し、次の行動を勧める方式を、この観点から見るようになりました。

ジャック・エリュールの『技術社会』も併せて考えてみる価値があります。エリュールは、効率を高める技術と組織のあり方が社会のさまざまな領域に広がりながら、他の価値を押しのけうると分析しました。ここでいう技術は、機械一台だけを指す言葉よりも広い意味で使われています。

こうした議論をレコメンドシステムに結びつけるのは、今日の読者である私の解釈です。ハクスリーが強化学習やソーシャルメディアの具体的な設計をあらかじめ説明していたわけではありませんから。彼の懸念が今も考える材料を与えてくれるという点と、今日の技術が実際にどう作動しているのかは、分けて見るようにしています。

レコメンドシステムは何を良い結果と判断するのか

レコメンドシステムは、利用履歴のような情報をもとに、関心を持ちそうなコンテンツの順序を決めます。このとき、何を予測し評価するかはサービスが決めます。

例えばYouTubeは2021年の公式説明で、クリックと視聴時間だけでなく、満足度アンケート、共有、高評価と低評価などをレコメンドに活用していると明らかにしました。視聴時間が長いという理由だけでは、その時間がユーザーにとって価値があったとは言えないため、アンケートも使うという説明です。ニュースや情報分野では、コンテンツの品質と信頼性も考慮すると述べていました。

したがって、すべてのレコメンドアルゴリズムが、ひたすら滞在時間だけを伸ばすように設計されていると言ってしまうと、実際の構造を過度に単純化することになります。とはいえ、何を良い結果として測定するかという問題は依然として残ります。クリック、長時間視聴、高い満足度は、それぞれ利用体験の一部を示すだけですから。

ここで私が重要だと考えるのは、サービスの目標とユーザーの目的を併せて確認することです。必要な講義を見つけて長時間視聴した場合と、止めたかったのに次の映像が気になって見続けた場合とでは、利用時間が同じでも評価が異なるはずです。こうした違いを十分に区別できなければ、指標は良くなっても、ユーザーが望んだ結果からは遠ざかりかねません。

『すばらしい新世界』が思い浮かぶ理由

ハクスリーの『すばらしい新世界』は、楽しさと安定を提供する社会でも自由が制約されうることを示す小説です。この作品を通じて私が考えてみたいのは、満足しているという事実だけで、自分の選択を十分に検討したと言えるのかということです。

だからといって、小説の中の統制社会とソーシャルメディアをそのまま同一視することはできません。レコメンド機能は見つけにくかった資料を発見させてくれますし、関心の近い人たちのコンテンツに出会う助けにもなります。作品を通じて問いたいのは、そうした便利さを享受している間、自分が何を選んでいるのかを意識し続けられるかということです。

AIと対話するサービスでも、この問いは投げかけられます。会話が長く続いたこと、親密に感じたこと、実際に望む助けを得られたことは、それぞれ異なる経験だからです。会話時間や再訪だけで、この三つの経験をすべて説明するのは難しいでしょう。

『アイランド』で私が注目した言葉

ハクスリーが1962年に発表した最後の小説『アイランド』には、架空の島パラが登場します。この社会は東洋の瞑想の伝統と西洋の科学を併せて活用しながら、構成員が自らの能力を伸ばせるよう助けます。

小説の中で鳥たちが繰り返す言葉の一つが「注意」、すなわち「Attention」です。私はこの言葉を、今自分が何を経験しているのかに気づけという呼びかけとして読みます。技術をすべて捨てよという話ではなく、技術を使っている間、自分の目的を見失うなという考えにつながります。

小説の社会は、外部からの政治的・経済的圧力の前では脆弱です。だから、この作品を読んで、個人が集中しさえすればすべての問題が解決すると結論づけたくはありません。自分の利用習慣を振り返る努力と、サービスがどのような選択を誘導しているのかを検討することは、両方とも必要だと考えています。

制度面でも、デジタルサービスの設計を点検しようとする動きがあります。欧州委員会は2025年7月、デジタル公正法（Digital Fairness Act）の準備に向けた公開意見募集を開始しました。依存を誘発する設計、ユーザーを欺く画面構成、脆弱性を利用したパーソナライゼーションなどが検討対象でした。当時の段階は立法準備と意見募集でした。

Oswarldの視点

私は仕事をする中で、測定されないものは管理しにくいという言葉をよく口にしてきました。ハクスリーのインタビューを見た後、その言葉の前にもう一つ付け加えたくなりました。何を測定するかを、まずきちんと決めなければならないということです。

企業がユーザー体験を改善しようとアルゴリズムを導入し、満足度指標が上がるケースを見てきました。その成果を否定する必要はありません。ただ、どんな満足度を誰に尋ねたのか、その結果がユーザーが長期的に望むものとも合致しているのかは、さらに検討すべきだと思います。

私が懸念するのは、指標が良く出たという理由で、こうした検討を止めてしまうことです。モデルが定められた目標をうまく達成したとしても、その目標に含まれていない価値は別途確認しなければならないからです。効率と満足度を測定する作業そのものにも、判断が入り込みます。

機能を中心に形態を考える設計原則も思い浮かびました。機能が明確であることと同じくらい、その機能が誰に対してどんな助けをもたらそうとしているのかが重要でしょう。ユーザーの時間を節約するための機能なのか、より多くのコンテンツを見せるための機能なのかによって、良い結果の基準も変わってくるはずです。

そこで私は、『アイランド』の「注意」という言葉を、実際に利用している最中に思い出してみようと思います。何をしようとしてアプリを開いたのか、今見ているものがその目的に役立っているのかを確認するのです。大した解決策というよりも、勧められた選択をそのまま続ける前に、自分の意思をもう一度確かめる方法です。

参考資料と関連リンク

• BBC Archive, 1961: Aldous Huxley on the power of TECHNOLOGY! — 私が見たインタビュー映像です。BBCの編成記録で放送日と司会者を確認できます。
• Jacques Ellul, The Technological Society — 技術と効率を中心とした社会を分析した本です。
• YouTube, On YouTube’s recommendation system、2021年9月15日。レコメンドに使う信号と品質管理についての同社の説明です。
• Aldous Huxley, 『アイランド』 — 原作は1962年に出版されました。
• Neil Postman, Amusing Ourselves to Death、1985年。ハクスリーとオーウェルの作品を大衆文化批評と結びつけて読むことができます。
• 欧州委員会、Digital Fairness Act公開意見募集、2025年7月17日。

筆者アン・グァンソプ（安光涉）は世宗大学校経営学科教授であり、INLEVEL9のリードコンサルタントである。大学では経営データ管理、ビジネスアナリティクスなど統計およびデータ分析を教える一方、現場ではGTM戦略とAI戦略コンサルティングを率い、技術とビジネスの接点を設計している。AI対話システムの記憶アーキテクチャ（HEMA）研究で学術論文を発表し、毎日グローバルなAI論文をキュレーションするDaily Arxivプロジェクトを運営している。高麗大学校技術経営専門大学院修士課程とKMBAを修了した。著書に『考えを委ねる人々：ホモ・ブレインレス』がある。

著者 アン・グァンソプ（Oswarld） は世宗大学校 兼任教授、INLEVEL9 戦略コンサルタントです。経歴、研究、著書、最近の活動は著者紹介で更新しています。 最近の活動 · 2026年7月：HEMA-2: A Consolidation-Aware Tri-Memory Architecture with Multi-Channel Scheduling for Lifelong Conversational AI。