「技術は価値中立ではない」——AIという強力な技術が社会に広がるとき、それをどう管理し、誰が責任を持ち、どんなルールのもとで動かすべきか。
この問いに答えようとする営みが、AIガバナンスです。
法律を作れば解決するのでしょうか。いいえ、技術は法律より速く進化します。
企業の自主規制に任せればいいのでしょうか。いいえ、利益を追求する企業が常に倫理を優先するとは限りません。
では、誰が、どのように、AIを「正しく」導くのか——この章では、世界がAIガバナンスにどう向き合っているかを見ていきます。
AI倫理とは何か
2014年、Amazonは採用選考にAIを導入しました。
大量の履歴書を自動で評価し、優秀な候補者を選び出すシステムです。しかし2018年、このシステムに深刻な問題があることが発覚しました。AIが女性の応募者を不当に低く評価していたのです。過去の採用データから学習したAIが、「優秀な社員は男性が多い」というパターンを学んでしまっていました。Amazonはこのシステムの使用を中止しました。
アメリカでは、AIが被告の再犯リスクを予測して裁判の量刑に影響を与えるシステムが使われています。しかし調査によって、このシステムが黒人被告のリスクを白人被告より高く評価する傾向があることが明らかになりました。AIの判断が、人種差別を再生産していたのです。
これらは「AIが悪意を持っていた」わけではありません。
AIは与えられたデータから学んだだけです。しかしそのデータの中に、人間社会の偏見と差別が刻み込まれていた——AI倫理が必要な理由は、まさにここにあります。
AIが「価値判断を行う」存在になりつつある今、その判断は公平か、透明か、人間の尊厳を守っているか——AI倫理とは、そうした問いへの答えを社会全体で模索する営みです。
世界各国・国際機関が発表しているAI倫理のガイドラインには、共通して登場する価値原則があります。公平性・透明性・説明可能性・プライバシー保護・安全性・人間の監督・包摂性——これらがAI倫理の中核をなす価値原則です。
AIガバナンスとは何か
AIガバナンスとは、AI倫理を実現するための仕組み・制度・組織体制の総称です。
「倫理」が「何が正しいか」を考えることだとすれば、「ガバナンス」は「正しいことを実現するための仕組みを作ること」です。
どれだけ美しい倫理原則を掲げても、それを実現する仕組みがなければ意味がありません。
AIガバナンスは、倫理を「絵に描いた餅」にしないための実践的な取り組みです。
国内外のガイドライン
世界各国・国際機関が、AIに関するガイドラインを相次いで発表しています。代表的なものを見ていきましょう。
OECD AI原則（2019年）——経済協力開発機構（OECD）が策定した、AIに関する国際的な原則です。包摂的成長・人間中心・透明性・堅牢性・説明責任の五つの原則を掲げており、G20各国を含む多くの国が支持しています。
EU AI法（AI Act）——EUが2024年に成立させた、世界初のAIに関する包括的な法律です。AIをリスクの高さに応じて分類し、高リスクのAIには厳格な規制を課す「リスクベースアプローチ」を採用しています。
日本のAI戦略・ガイドライン——日本では内閣府が「人間中心のAI社会原則」を策定し、経済産業省・総務省がAI開発・利用に関するガイドラインを公表しています。
これらのガイドラインに共通しているのは——人間中心、公平性、透明性、安全性、プライバシー保護という共通の価値原則です。
国や文化が違っても、AIに求める倫理的な基準には、多くの共通点があることがわかります。
ハードローとソフトロー
AIのルール作りには、ハードローとソフトローという二つのアプローチがあります。
ハードロー（Hard Law）とは、法律・条約など、違反した場合に法的な制裁が伴う拘束力のある規制のことです。
EUのAI法や個人情報保護法はハードローにあたります。
ハードローのメリットは、強制力があること——守らなければ罰則がある。デメリットは、技術の進化に法律が追いつかないこと、硬直的で柔軟な対応が難しいことです。
ソフトロー（Soft Law）とは、ガイドライン・指針・業界の自主規制など、法的な拘束力はないが、事実上の基準として機能するルールのことです。
OECDのAI原則や日本のAI開発ガイドラインはソフトローにあたります。
ソフトローのメリットは、柔軟で迅速に対応できること、技術の進化に合わせて更新しやすいこと。デメリットは、守らなくても法的な制裁がないこと——「守る気のない企業は守らない」という問題があります。
現在のAIガバナンスは、ソフトローを基本としながら、特に重大なリスクを持つAIにはハードローで規制するという方向性で世界的に議論が進んでいます。
リスクベースアプローチ
リスクベースアプローチとは、AIのリスクの高さに応じて、規制の厳しさを変えるアプローチです。EUのAI法が採用しており、世界のAI規制の主流になりつつあります。
すべてのAIに同じ規制を課すのは非効率です。
チェスゲームのAIと、犯罪リスクを予測するAIでは、社会への影響がまったく異なります。リスクベースアプローチは、AIを四つのリスクレベルに分類します。
許容不可能なリスク——禁止されるAI。人間の行動を無意識に操作するAI、政府による市民の社会的スコアリングなど。
高リスク——厳格な規制が課されるAI。医療診断・採用選考・犯罪リスク予測・重要インフラの管理などに使われるAI。透明性の確保・人間による監督・精度の保証などが求められます。
限定的リスク——透明性の義務が課されるAI。チャットボットなど、ユーザーがAIと会話していることを認識できるよう開示する義務があります。
最小リスク——規制なし。スパムフィルターやゲームのAIなど。
AIガバナンスの実践
AI倫理を「言葉」から「実践」に移すためには、組織としての仕組みが必要です。しかしなぜ、わざわざ仕組みを作らなければならないのでしょうか。
「倫理的にやろう」という意識だけでは不十分だからです。開発者が善意を持っていても、組織の中でプレッシャーにさらされれば、倫理より効率や利益が優先されることがあります。仕組みがなければ、倫理は「言葉だけのもの」になってしまいます。
では具体的にどんな仕組みが必要でしょうか。
AIポリシー——「私たちはこのようにAIを使う」という企業の宣言です。
採用AIを使うなら「どんなデータで学習させるか」「人間が最終判断を行うか」を明文化しておくことで、開発者の判断の基準になります。
倫理アセスメント——AIシステムを開発・導入する前に、倫理的なリスクを評価するプロセスです。
「このAIは差別を生まないか」「プライバシーを侵害しないか」——Amazonの採用AIの問題も、事前に倫理アセスメントを行っていれば発見できた可能性があります。
人間の関与（Human in the Loop）——AIの意思決定に人間が関与する仕組みです。
裁判でAIが再犯リスクを「高い」と判定しても、最終的な判断は人間の裁判官が行う——そういった仕組みが「人間の関与」です。AIが間違えたとき、それを止められる人間がいるかどうか——これが高リスクのAIでは特に重要です。
モニタリング——AIシステムの稼働後も、継続的に倫理的な問題が生じていないかを監視することです。
AIは運用を続ける中で、想定外の問題を起こすことがあります。「作ったら終わり」ではなく、継続的に見守る姿勢が求められます。
AIに対する監査——第三者機関がAIシステムの倫理的な適切さを評価・検証することです。
自社内だけの評価では見えにくい問題を、外部の目で確認します。企業の会計監査と同じように、AIにも外部からのチェックが必要という考え方です。
ダイバーシティ——AIの開発チームに多様な背景・視点を持つ人材を含めることです。
男性ばかりのチームが採用AIを作れば、女性への偏見に気づきにくい。特定の文化圏の人だけが開発すれば、他の文化への配慮が欠けることがある——開発者の多様性が、AIの偏りを減らす第一歩です。
再現性・トレーサビリティ——AIの判断がどのようなプロセスで下されたかを追跡・再現できることです。
「なぜこの人のローンが却下されたのか」「なぜこの被告のリスクが高いと判定されたのか」——その理由を後から追跡できなければ、問題が起きたときに原因を特定できません。
まとめ
AI倫理 → AIの開発・利用において守るべき倫理的な原則・価値観の総称。公平性・透明性・安全性・プライバシー保護などが中核をなす
価値原則 → AI倫理のガイドラインに共通して登場する原則。公平性・透明性・説明可能性・プライバシー保護・安全性・人間の監督・包摂性など
AIガバナンス → AI倫理を実現するための仕組み・制度・組織体制の総称
ハードロー → 法律・条約など、違反した場合に法的な制裁が伴う拘束力のある規制。EUのAI法などが該当
ソフトロー → ガイドライン・指針など、法的な拘束力はないが事実上の基準として機能するルール。OECDのAI原則などが該当
リスクベースアプローチ → AIのリスクの高さに応じて規制の厳しさを変えるアプローチ。EUのAI法が採用しており世界のAI規制の主流になりつつある
倫理アセスメント → AIシステムを開発・導入する前に倫理的なリスクを評価するプロセス
人間の関与（Human in the Loop） → AIの意思決定プロセスに人間が関与する仕組み。高リスクのAIでは最終判断を人間が行うことが求められる
トレーサビリティ → AIの判断がどのようなプロセスで下されたかを追跡・再現できること
ダイバーシティ → AIの開発チームに多様な背景・視点を持つ人材を含めること。開発者の偏りがAIの偏りにつながるリスクを減らす
next ▶ プライバシー