AIが解けない倫理の難問を紹介します。
概要
博士と道化師が、AI倫理を研究する竹下先生を招き、日本語の道徳判断データセットとAIのバイアス問題を扱う回。銭湯でのバタ足練習や卒業式の選曲など、人間なら文脈で不適切と分かる例を通じて、AIが社会規範を取り違える様子を示す。議論はアルゴリズム的バイアス、ジェンダー・人種・文化・障害・LGBTQ、さらに種差別へ広がる。終盤では研究費、GPU環境、情報系と倫理学の接続など、AIガバナンスを研究する現場の制約にも触れる。
要点
- 日本語の道徳判断データセットでは、状況文に対してAIが「適切／不適切」を判定できるかを検証する。
- 初期のAIは、銭湯、卒業式、デート前の食事など、文化的・社会的文脈に依存する不適切さを見落とした。
- LLMの進化が速く、数年前に難しかった一部の道徳判断は短期間で改善された。
- ただし、ジェンダー、人種、文化、障害、精神疾患、LGBTQ、動物に関するバイアスは残る。
- Amazonの採用AIやCOMPASの再犯リスク予測は、人間由来の偏ったデータをAIが増幅する例として扱われる。
- 種差別は、動物をめぐるAI判断や自動運転の犠牲選択で見えにくい論点になる。
- AI倫理を研究するには、倫理学だけでなく、モデルを触り検証できる情報系の基盤も重要になる。
構造化サマリ
日本語の道徳判断データセット
冒頭では、AI倫理を研究する竹下先生が登場し、日本語の道徳判断データセットを紹介する。人間なら「それはおかしい」と分かる日常場面を、AIが適切に判定できるかを調べる研究だ。
例として、子どもを銭湯でバタ足練習させる、卒業式でアンパンマンの歌を歌う、デート前の娘にニンニク炒めを出す、といった状況が挙がる。行為そのものは犯罪ではないが、場面や関係性によって不適切さが生じる。
データは数百人規模のクラウドワーカーに判断してもらい、多数決ラベルを付ける形式で作られた。ただしLLMの性能向上が速く、当初は誤った例の多くが、2年ほどでかなり解けるようになった。
AIが学ぶ人間由来の偏り
話題は、単純な道徳判断からアルゴリズム的バイアスへ移る。AIは公平な判断装置に見えても、学習データは人間が作ったテキストや履歴であり、そこには社会の偏りが含まれる。
Amazonの採用AIが男性優位の履歴を学習した例や、COMPASの再犯リスク予測が人種的偏りを示した例が取り上げられる。AIが差別的だから問題なのではなく、人間社会の差別がデータ化され、AIによって再利用される構造が問題になる。
英語圏では単語ベクトルの偏りを補正するハードデバイアスやダブルハードデバイアスの手法が研究されてきた。しかし日本語では漢字・ひらがな・カタカナなど文字種の違いがあり、英語向け手法をそのまま移すことは難しい。
種差別と動物へのバイアス
後半では、種差別が中心的な論点になる。狐、昆虫、カラスなどに対する否定的なステレオタイプが、AIの判断にも反映されうるという問題だ。
モラル・マシン的な自動運転の判断では、人間と動物のどちらを犠牲にするかが問われる。多数派の判断では動物が軽く扱われがちだが、その結果をそのまま設計に入れてよいのかは別問題になる。
一方で、犬猫と人間を完全に対等に扱うことにも多くの人は違和感を持つ。動画は、種差別という名前を与えることで、初めてそのバランスを民主的に議論できると整理する。
AI倫理の範囲と学び方
AI倫理には、AIそのものを道徳的対象として扱う議論、自動運転の責任、バイアス除去、差別的出力の抑制などが含まれる。単に「AIを正しく使う」話ではなく、社会制度、文化規範、技術仕様が絡む領域になる。
研究したい学生への助言として、倫理学だけでなく情報系でAIを実際に扱える力を付けることが勧められる。対象を理解し、実験し、評価できなければ、AI倫理の主張も検証しづらい。
大規模モデルの研究にはGPUサーバーや研究費が不可欠で、人文系の研究室では環境構築が制約になりやすい。AI倫理は理念だけでなく、計算資源と制度設計にも支えられる研究分野として語られる。
終盤の注意喚起
終盤では、AIのバイアスは完全にゼロにはできないという現実が確認される。人間が作ったデータを学ぶ以上、人間社会の価値観や偏見から完全に独立したAIは想定しにくい。
ただし放置すれば、進路推薦や採用、リスク評価などで社会の偏りが増幅される。公平そうに見えるAIほど、どのデータで学び、どの価値判断を内蔵しているのかを疑う必要がある。
登場エンティティ・コンセプト
- hakushi-to-dokeshi — 研究者との対話を通じて、AI倫理と動物倫理の論点を一般向けに掘り下げる番組。
- ai-governance — AIの開発・利用・責任・公平性を社会制度やルールによって制御する考え方。
- algorithmic-bias — 学習データや設計に含まれる偏りが、AIやアルゴリズムの判断へ反映される問題。
- speciesism — 人間中心の価値観によって、動物種ごとに道徳的扱いを不当に変える偏り。
印象的な引用
人間自身がやっぱりバイアスを持っているので、ま、それをテキストとかデータで様々な形でインターネット上にみんな書き出してしまう。
学習データ自体は人間が作っているっていうことを忘れないようにしないといけませんね。