小塚荘一郎『AIの時代と法』(岩波新書) 10点

書評総合
 今年始まった「仮面ライダーゼロワン」のテーマがAIであることからもわかるように、「AIが世界を変える」というのは人口に膾炙する話となっていますが、では、実際に社会はどのように変わるのでしょうか?
 AI以外にもさまざまな情報技術の発達と相まって、「第4次産業革命」とか「ソサエティ5.0」などの言葉が飛び交い、世界の姿が一変するようにも言われますが、同時に「出先からスマホでエアコンを動かすこと」や「スマートスピーカーに洗剤が切れたと話しかけると洗剤が届くこと」のどこに世界の変化があるのか? と思うこともあります。
 
 本書は今後起こりうる世界の変化を「法」の観点から見ています。「法」と聞くと身構える人も多いでしょうが、「法」という固定された観点から見ることで、今起きている、そしてこれから起こる変化をかえってわかりやすく捉えることができています。
 AIの時代の特徴を、「モノ(の取引)からサービス(の取引)へ」、「財物からデータへ」、「法/契約からコードへ」という3つの変化に見ながら、それが法と社会にどのような変化をもたらすのかを検討しています。
 このように書くと少し難しい本に思えるかもしれませんが、さまざまな事例とその倫理的な問題がとり上げられているので、単純にAIや情報技術の発展が社会をどのように変えて、どんな問題をもたらすのかということを知りたい人にもお薦めできますし、当然ながら社会の変化が法をどのように変えていくのかに興味がある人にもお薦めできます。

 目次は以下の通り。
第1章 デジタル技術に揺らぐ法
第2章 AIとシェアリング・エコノミー――利用者と消費者の間
第3章 情報法の時代――「新時代の石油」をめぐって
第4章 法と契約と技術――何が個人を守るのか
第5章 国家権力対プラットフォーム
第6章 法の前提と限界

 テクノロジーは新たな可能性を生み出しますが、同時にその可能性の拡大は既存の法との間に問題を引き起こします。
 例えば、自動運転技術が発展すれば運転手は必要なくなり、客だけを乗せたバスやタクシーが出現するかもしれません。これによってバスなどの運転手不足は解消されるかもしれませんが、現在の道路交通法では「車両の運転者」がいることが前提になっており、さらにこのことは国際条約(ジュネーブ道路交通条約)にも規定されています。

 さらに自動運転は法的な責任問題をどう考えるかという問題ももたらします。「5人を犠牲にするか? 1人を犠牲にするか?」というトロッコ問題のような状況に陥ったとき、功利主義の考えでは「1人を犠牲にする」という選択肢を選べばいいかもしれませんが、現実にはそうはならないでしょう。
 被害者の弁護士は、止まれなかった責任や、そのような状況に至ってしまった責任を問おうとするはずです。その責任追求はメーカーや管理者、あるいは警察や行政に向けられるかもしれません。このときに法は、技術の進歩がもたらす社会の変化に対応していく必要があります。例えば、鉄道や航空機が登場した際、事故においては過失の有無に関わらずに運用者が責任を負うという危険責任制度がドイツなどで導入されました。

 第2章では、まずシェアリング・エコノミーを中心に扱っています。
 音楽や本の世界では現物に代わって配信が大きく伸び、さらに音楽ではサブスクリプションという一定の金額を払えば聴き放題というサービスが急成長しています。いずれ車などもマイカーを所有するのではなく、必要なときに自動運転の車をレンタルするという形が主流になるのかもしれません。
 しかし、こうした取引が主流になると法にとっては困ったことになるかもしれません。契約の代表例が売買契約であり、これは目的物を引き渡すことによって完了します。ところが、配信サービスの場合、配信者は著作物の利用を認めるだけであり、何か実体を引き渡しているわけではありません。そこで、配信サービスが終了すると買ったはずの本が読めなくなるという問題も実際に起っています。
 
 さらにサブスクリプション型のサービスが広まると、取引がいつ行われたのかということも問題になります。例えば製造物責任の問題では、モノの場合、商品の引き渡し時点を基準時として、製造業者は欠陥のない製造物を引き渡さなければなりません。日本の法律ではソフトウェアは製造物ではないですが、それを組み込んだ製品は製造物にあたります。
 しかし、製造物の引き渡し時に全くバグのないプログラムというものは想定しにくく、欠陥が見つかるたびにアップデートするのがソフトウェアの世界では主流となっています。ユーザーにとっては引き渡し時の欠陥の有無よりも、むしろ不具合に対する適切でタイムリーな対応が求められるのです。

 この責任の問題はAIによる判断においても起こりえます。例えば、検査画像のデータから自動的に病名を判断するAIにおいて、病気を見逃す可能性、健康な人を病気と判断してしまう可能性の両方が考えられ、特に前者のミスは深刻です。
 ここで人間がダブルチェックを行なうというのが1つの解決方法ですが。それではAIの持つ迅速性というメリットが失われてしまいます。

 また、ネットを介した取引やシェアリング・エコノミーにおいてはプラットフォームを提供する事業者の役割が重要になります。
 例えば、ヤフーオークションをめぐる裁判では、オークションサイトの運営者は個別の取引に当事者として関与しているわけではないが、」「利用者に対して、欠陥のないシステムを構築して本件サービスを提供する義務」は負っていると判断されました(62p)。具体的には詐欺犯に注意するように呼びかけることなどの義務が課され、現在の事業者はこれに従っています。しかし、場合によっては犯罪の可能性について注意喚起する程度では済まないかもしれません。
 実際、クレジットカードについて定めている割賦販売法では加盟店審査についてかなり幅広い義務が課されています。例えば、自動運転車をサービス提供するプラットフォームが現れた場合、こうした特別な義務を課すことも考えられるでしょう。

 第3章では、まずプライバシーの問題が扱われています。日本におけるプライバシーの権利は「宴のあと」事件に見られるように、「知られたくないものを公開されない」権利として確立されました。
 しかし、このプライバシー概念では近年の問題を適切に捉えられなくなっています。例えば、2017年に警察が無断でGPS追跡装置を取り付けたことが違法とされた判決がありましたが、車が走行している様子はある意味で「公開」されているものであり、従来のプライバシー概念では適切に捉えられません。 
 また、AIの得意技にいくつかの断片的な情報からその人の欲しい物を探り当てることがありますが、これもプライバシーの侵害になるケースも考えられますが(隠していた妊娠を明るみしてしまったケースがアメリカであった(77−78p))、これも使われているのはあくまでも公開の情報です。

 またITの発達によって集められた情報に関してはプライバシーの問題以外にも、「誰のものか」という問題があります。「新時代の石油」とも呼ばれるデータから生み出される利益は一体誰に帰属するのかということが問題になるのです。2013年に持ち上がったSuicaの乗降履歴の販売問題については、プライバシーの問題もさることながら、個人の行為によって蓄積された情報から得られる利益を企業が独占していいのかという問題もあったと著者は見ています。
 
 そこでEUでは2018年に施行された一般データ保護規則(GDPR)において、個人を「データ主体」と位置づけ、個人データが収集されたことについて情報提供を受ける権利、自分の個人データにアクセスできる権利、不正確な個人データの訂正を求める権利などを認めました。さらには個人データを「一般的で読み出し可能なフォーマット」で受け取る権利も定めています。
 これは現代の「資源ナショナリズム」とも言えそうな動きですが、問題は個人がデータから生み出された利益の分配を受けるとしても、個々人が受け取る経済的利益は微々たるものにしかならないという点です。将来的には個人情報の信託を受け、条件に合致する業者に提供する「情報銀行」のような仕組みが広がるかもしれません。

 また、スマートスピーカーなどの普及は家族のプライバシーという問題も呼び起こします。買った本人が個人情報の提供に同意していたとしても、スマートスピーカーがリビングに置かれている場合、他の家族のプライバシーが筒抜けになる可能性があります。これはスマートテレビの視聴履歴などでも問題になりますが、現実問題として家族全員の同意を取ることは難しいでしょう。
 
 このように大きなパワーを持つようになったデータですが、データベース自体は知的財産権で保護されるわけではありません。データベース自体は独創性がないために著作権法の保護対象にはなりませんし、発明というわけでものないので特許権も適用されないからです。
 こうした状況の中、EUでは1996年にデータベース権という制度を導入し、データベース産業の育成をねらいました。ところが、現在のところこの政策はうまくいっていません。EU域内から世界的なプラットフォーム企業は育っていないのです。
 これはデータに対して独占的支配権を与えるという知的財産権の枠組みが「強すぎて」産業がうまく育たなかったとも考えられます。強すぎる権利はデータの流通を阻害するというジレンマがあるのです。

 第4章では「法/契約からコードへ」という問題がとり上げられています。
 AIが現実社会で大きな役割を果たすようになる中で、日本では「AI利用活用原則」が、EUでは「信頼されるAIのための倫理ガイドライン」がつくられていますし、アメリカでは民間団体を中心に「アシマロ原則」が採択されています。
 これらのものは法ではなく、原則やガイドラインという形をとっています。これはAIがまだまだ進化する分野だからということでしょうし、そして、法がなくても技術で禁止してしまえば問題ないという考えも背景にあるのでしょう。
 ローレンス・レッシグは90年代の終りに「コードが法に代わる(Code is law.)」(129p)と言いましたが、まさにそうなりつつあります。例えば、DVDでは著作権法とは別にコピーワンスの技術が導入され、複製に制限がかけられました(のちに政府も介入し「ダビング10」の規格が採用された)。

 「コードが法に代わる」という動きは、仮想通貨の世界でも観察できます。2016年にTha DAOがハッキングされ、イーサリアムというプラットフォームをベースにした「DAOトークン」という投資の対象物が流出してしまいました。これに対してイーサリアムはさかのぼってハードフォーク(新しいブロックチェーンの分岐をつくりだすこと)を行い、流出したトークンを使用不可能にしました。
 The DAOの関係者はこの解決方法に関して、「われわれのコミュニティにはわれわれの裁判所がある」(144p)と叫んだと言いますが、これなどは法や司法を無視してコードが問題を「解決」してしまった一例と言えるでしょう。
 
 このようにコード(アーキテクチャ)でが物事を決めていくようになると、個人を自律的な主体とみなす法のタテマエとの齟齬が生じるかもしれません。アメリカの法学者のサンスティーンは「タテマエはタテマエにすぎず、人間は、自律的な判断にもとづく選択などしてはいないという現実を直視すべきである」(151p)と主張するわけですが、この考えには抵抗もあるでしょう。

 またAIによる選別がさかんになれば、AIの学習するデータからもたらされるバイアスが差別を生む可能性もあります。例えば、人種によって所得が違うような社会ではAIによるローンの審査で特定の人種がはねられてしまうかもしれません。もちろん、人種や性別を直接の指標とすることは避けるプログラムが組まれるでしょうが、例えば特定の人種が集住している地域では住所によってそうした差別が行われる可能性もあります。
 さらに中国で行われているような信用スコアリングがさらに進化していけば、人々の行動がスコアリングの基準(コード)によって規定されていくかもしれません。

 第5章では「国家権力対プラットフォーム」と題し、国家がうまく管理できない問題を取り扱っています。
 まず思い浮かぶのが仮想通貨です。通貨の発行権は国家が独占していたものですが、仮想通貨はこれに風穴を開けました。ただし、現在のところ仮想通貨は投機の対象という面も強く、「通貨」というよりは「資産」として起立するほうが良いという見方が広がっています(170p)。
 スマホの決済にしても基本的には銀行口座を利用したものが主流で、通貨がなくなるわけではないですが、政府の発行する紙幣や硬貨がスマホ上のプラットフォームの提供するアプリに置き換わるインパクトは大きいかもしれません。
 
 EUは2019年4月に著作権法ディレクティブを制定していますが、そこには大規模なプラットフォームに、著作権を侵害するコンテンツを発見し削除する仕組みを導入するよう義務付けています。これについて著者は「プラットフォームが、国家をしのぐほどに大きい力を持ったのであれば、権利の保護についても責任を持つべきだと、EUは考えたのではないだろうか」と理由の一端を推測しています。
 今まで、プラットフォームは著作権侵害について指摘を受ければ削除をするという「ノーティス・アンド・テイクダウン」ルールが基本となっていましたが、今後は権利保護のためにプラットフォームも責任を分担すべきだという議論が強まるかもしれません。

 このように国家がプラットフォームを規制して個人の権利を守るというのは1つの方向性になりそうですが、もともとプライバシーは個人の私生活を国家の侵害から守るという立場であったはずです。
 プラットフォームの規制は必要かもしれませんが、中国では政府が信用スコアの活用に乗り出しており(実態を見るとまだまだな面が強い、梶谷懐・高口康太『幸福な監視国家・中国』(NHK出版新書)参照)、プラットフォームだけを規制していればプライバシーが守られるというものでもありません。プラットフォーム規制が、国家による個人の監視・抑圧に転化する可能性にも警戒していく必要があります。
 
 この章では「法からコードへ」と変化したときの問題点も指摘しています。アメリカの大学ではコンピュータ・サイエンス専攻の学生にスピード違反を取り締まるプログラムを書かせる実験が行われました。第1グループは法の文言通りプログラムを書くように指示され、第2グループは法の趣旨を考えて書くように指示され、第3グループには詳細な指示が与えられました。
 第1グループでは1キロでも制限を超えたら切符を切るプログラムを書いてくる学生が多かったですが、第2グループでは一定の超過(かなりバラツキはある)を許容するものがおおかったそうです。そして第3グループでは速度ごとに超過の範囲を調整するような指示が出されていたので、それに従ったプログラムが書かれました。
 この結果を見ると、スピード違反という一見するとあまり裁量のない取締りでも、かなり現場の判断に依存した取締りが行われていることがうかがえます。制限速度に応じて超過しても良い速度が変化するというのは常識的な判断ですが、それが法律に書き込まれることはありません。
 ロボットが取締りを行う場合、この現場の裁量がプログラマーの裁量となるわけですが、人々はプログラマーが大きな裁量を持つことには違和感を覚えるでしょう。しかし、どこかで裁量を認めなければ、法の運用は硬直化します。
 
 第6章ではこれからの展望を述べていますが、まず、著者は「法」と「法律」を区別します。「法律」は国会が制定するルールであり、一定の制定手続きがあればそれは法律として成立しますが、「法」とは一般的な社会の仕組みを前提としたもので、現在の「法」体系はヨーロッパ社会の経験を前提にしているといいます。
 日本は明治期にその法体系をヨーロッパから輸入したわけですが、だからこそ日本の社会とはフィットしない部分もあり、実務家にとって「サイズの合わない既製服のようなもの」(208p)と評されることもありました。
 しかし、だからこそ今までの「法」の前提が崩れる中で、日本こそが新しい社会に適合した「法」の形を模索していく上で、好都合なポジションにいるかもしれないと著者は考えています。

 このように本書には豊富なトピックを「法」の観点から切り取ることによって、AIと情報技術がもたらす社会の変化を鮮やかに取り出しています。この「法」という視点から、細かい技術的な規制から大きな倫理まで射程に入れた議論を行っている内容は非常に刺激的で、必ずしも法学に興味がない人でも面白く読めるでしょうし、AIと情報技術が社会にもたらす変化と問題を考える上での最初の1冊ともなりえます。
 情報量、問題意識、読みやすさ、いずれの観点からも評価できる本で広くお薦めできる本です。



Source: 読書

コメント

%d人のブロガーが「いいね」をつけました。
タイトルとURLをコピーしました