法と社会 - GeneseAI

21.1著作権と知的財産

図21.1. 著作権をめぐる2つの戦線。米国の司法は学習を「変容的」な利用とみなす傾向にあるが、生成されたコンテンツが著作物を違法に複製しているのか、その責任を誰が負うのかという問いは、未解決のまま残っている。

仕組みの詳細

2025年から2026年にかけて、米国の裁判官たちは、モデルの学習がフェアユース（公正利用）に該当しうると判断し、AIの学習を人間の読者の学びになぞらえた。しかし、海賊版の著作物という問題は依然として重い。大手研究所の一つであるAnthropicは、海賊版ライブラリを通じた書籍の入手に関する訴訟（Bartz対Anthropic事件）を終結させるため、約15億ドルの支払いに同意した。この集団和解は2026年7月20日に裁判所の最終承認を受けた。対象は50万冊弱の書籍で、1作品あたり約3,000ドルに相当する。和解が扱うのは書籍の入手方法であって学習の適法性ではなく、先例となるものでもない。ほかにも複数の訴訟が係属中である（出版社対Meta、OpenAIに対して併合された約12件の訴訟）。この後者の訴訟（New York Timesほか対OpenAIおよびMicrosoft）では、米国司法省が2026年9月1日に「利害関係表明書」を提出し、著作権で保護された文章による学習は一般にフェアユースに該当すると主張した。2026年9月30日時点で、裁判所はまだ判断を示していない。画像の分野では、大手映画スタジオ（DisneyやUniversalなど）が画像生成サービスを訴える一方で、ライセンス契約を結ぶ事業者も現れている。ライセンス市場の出現は、フェアユースの抗弁を難しくする。最後に、AIが生み出した作品の保護について、米国連邦最高裁判所は2026年3月、この分野を象徴する事件（Thaler事件）を審理しないと決定した。これにより、人間の創作的寄与なしに機械が生成した作品は保護の対象にならないとした、2025年の連邦控訴裁判所の判断が効力を保つことになった。

背景知識

世界はモザイク模様

適用される法は国によって大きく異なる。欧州連合と英国はテキスト・データマイニングの例外規定（権利者にはこれを拒否する手段が与えられる）という枠組みで考えるのに対し、米国は事案ごとのフェアユースで判断し、日本は学習について寛容なアプローチを採用した。欧州では、AI生成音楽をめぐる初の司法判断が2026年7月31日に下された。ミュンヘン第一地方裁判所は、6作品が音楽生成サービスSunoのモデル内に再現可能なかたちで記憶されていると認定したうえで、Sunoを訴えたGEMAの主張を認めた。この判決は図21.1の2つの戦線の双方に関わる。学習の面では、テキスト・データマイニングの例外規定は著作物をモデル内に記憶することまでは対象としない。出力の面では、責任を負うのは利用者ではなく提供者である。第一審の判決であり、確定していない（控訴の可能性が残る）。この分断は、世界規模で事業を展開する研究所の仕事を複雑にし、出版社やカタログ保有者と直接交渉するライセンス契約の広がりを後押ししている。

21.2ディープフェイク、偽情報、民主主義

背景知識

大規模な説得

偽情報（虚偽に依拠するもの）とは別に、もう1つの懸念が高まっている。説得そのもの、すなわち真実の論拠を用いてでも相手の意見を変えさせる能力である。事前登録されたある研究（Salviらによる、Nature Human Behaviour、2025年）では、約900人が社会的なテーマについて、人間またはGPT-4のいずれかと討論した。際立った結果はこうである。モデルが相手の社会人口統計学的な情報をいくつか与えられていた場合、引き分けでなかった討論の約64%で人間よりも説得力が高かった。パーソナライズがない場合は、人間と互角だった。決定的な強みは、論拠の質というよりも、瞬時に、かつ極めて大きな規模でパーソナライズする能力にある。つまり、数百万人の一人ひとりの属性に合わせて、リアルタイムでメッセージを調整できるのである。そのリスクは、マーケティング、選挙運動、SNSにおいて実感できる。こうした自動化されたマイクロターゲティングは、世論に大規模かつ目立たない形で影響を及ぼしかねない。著者たち自身も、説得が関わる機微な場面でのこれらのモデルの利用を監視し、必要に応じて規律するよう、プラットフォームと規制当局に呼びかけている。これは心理学（第19章）と民主主義が交わるところに位置する、れっきとした社会的課題である。

21.3プライバシーとデータ保護

背景知識

差分プライバシー

機微なデータ（診療記録、サービスの利用状況）を、それを構成する個人をさらすことなく活用するにはどうすればよいか。厳密で、いまや標準となった答えが差分プライバシー（differential privacy）である。考え方はこうだ。結果に、入念に調整された量のランダムなノイズを加える。すると、全体の統計は信頼できるまま保たれるが、ある特定の人物がデータセットに含まれていたかどうかを知ることは数学的に不可能になる。こうして、個人について知りうる内容に形式的な上限を設けたうえで、傾向を公表したり、さらにはモデルを学習させたりできる。この技術は大手の組織（統計機関や、一人ひとりを追跡せずに利用状況を収集するスマートフォンメーカー）が採用しているが、代償もある。保護を強めるほど精度は下がるため、両者の兼ね合いを決めなければならない。連合学習や暗号化（第11章）と組み合わせることで、差分プライバシーは「プライバシー・バイ・デザイン」のAIを実現する道具箱の一部となり、平文データの集中管理に代わる選択肢を提供する。

21.4監視、バイアス、差別

背景知識

言語の多様性とグローバルサウス

AIの恩恵は、言語によって等しく行き渡るわけではない。最良のモデルは主に英語と、データが豊富な一握りの言語で学習されている。グローバルサウスの国々で話されることの多い数千の低資源言語では性能が明らかに劣り、デジタル格差を広げるおそれがある（当該の人々は、インフラの面でもモデルの費用の面でも恵まれていない）。これを是正する取り組みも存在する。アフリカやインドの言語向けモデルのプロジェクト、コミュニティによるオープンなデータセット、言語主権を掲げる取り組みなどである。課題は技術だけにとどまらない。AIが十分に対応しない言語はデジタル空間での使用が後退し、それが言語の消滅を加速させかねない。AIにおける言語の多様性は、したがって文化と公平性の課題でもある。

21.5責任、司法、肯定的な側面

やさしく言うと

全体像を補う課題が3つある。

責任。 AIが損害を引き起こしたとき（誤った診断、自動運転車の事故、破滅的な金融上の助言）、誰が責任を負うのか。利用者か、導入者か、設計者か。AIに「法人格」を与えるという考えはおおむね退けられており、むしろ製造物責任の制度と人間による監督の義務へと向かっている。実際、欧州連合は製造物責任制度を現代化し、ソフトウェアとAIシステムを明示的に対象に含めた。
予測的司法。 再犯リスクの評価や司法判断の方向づけにアルゴリズムを用いることは、激しい批判を招いた。特定の集団に不利な形で偏っていることが判明したツールがあり、法の下の平等という問題を突きつけたのである。
プラットフォームの力。 AIはいまや数十億件のコンテンツをモデレーションしている。これは表現の自由と情報に対する巨大な権力であり、少数の手に集中し、大規模な誤りを伴う。オンラインでの子どもの保護（不適切なコンテンツ、AIコンパニオン、第19章）は、そのなかでも特に機微な事例である（2026年7月から施行されている中国の規則と、2026年9月に署名されたカリフォルニア州法、第19章）。

背景知識

「説明を受ける権利」

自動化された決定が個人に影響を及ぼすとき（融資の拒否、応募書類の選別、給付の拒否）、その人は決定がどのように下されたのかを理解することを要求できるだろうか。これが説明を受ける権利の問題であり、欧州法にその輪郭が描かれている（GDPRは「もっぱら自動化された処理に基づく」決定を規律し、人間の介入を求める権利と異議を申し立てる権利を認めている）。この原則は強力だが、モデルの不透明性（「ブラックボックス」、第2章）という壁に突き当たる。数十億個のパラメータを持つネットワークの出力を理解可能な言葉で説明することは未解決の技術的問題であり、解釈可能性（第24章）や説明可能なAIの研究と重なり合う。そこで、現実的なアプローチがとられている。決定の主要な要因を示すこと、人間による救済手段を保証すること、システムを文書化することである。問題は利用者の利便性にとどまらない。説明も救済手段もなければ、異議申し立ても実効的な責任追及も不可能であり、アルゴリズムによる決定はあらゆる民主的統制を逃れてしまう。

要点（第21章）

著作権：米国では学習はフェアユースと判断される方向にあるが、海賊版の利用は制裁を受け、生成コンテンツについての責任は未決着のままである。ライセンス市場が生まれつつある。欧州では、初の判決（ミュンヘン、2026年7月、未確定）が、著作物の記憶を理由に音楽生成サービスの責任を認めた。
ディープフェイク：詐欺、偽情報、民主主義への脅威。根深い危険としての「嘘つきの配当」。対抗策は部分的なものにとどまる（検出、追跡可能性、2026年8月以降のEUでの表示義務）。
プライバシー：AIは機微なデータを推測できる。欧州ではGDPRが厳格に規律しており、AI規則との整合が課題となっている。
監視とバイアス：利用のあり方は地域によって異なり、最も弱い立場にある人々に及ぶアルゴリズムによる差別のリスクがある。
責任（AIに法人格は認められない）、予測的司法（バイアス）、プラットフォームの力。しかし同時に、大きな肯定的な側面もある。障害のある人々のためのアクセシビリティである。

民事法から、国家主権の最も機微な領域へ。第22章では防衛と国際安全保障を扱う。

21.1著作権と知的財産#

21.2ディープフェイク、偽情報、民主主義#

21.3プライバシーとデータ保護#

21.4監視、バイアス、差別#

21.5責任、司法、肯定的な側面#

要点（第21章）

21.1著作権と知的財産

21.2ディープフェイク、偽情報、民主主義

21.3プライバシーとデータ保護

21.4監視、バイアス、差別

21.5責任、司法、肯定的な側面