『AIの時代と法』（2019）

小塚荘一郎『AIの時代と法』岩波新書、2019年

法の体系の変革期であることが論じられている。取引の形態に関してモノ（の取引）から、サービス（の取引）へという変化、取引の対象について財物からデータへという変化、取引ルールに関して法や契約からコードへという変化である（Pii）。

モノを中心に近代法が整備された。製造物責任は自動車や電子レンジなどの家電に当てはまる。製造物の欠陥は製造業者等が責任を負う仕組みができている。ところがソフトウェアは日本の法律では動産にならないため、製造物責任を問えない。世の中のシステムは殆どがソフトウェアで動いているのが、ソフトウェアの場合、責任を追及するにはソフトウェアを組み込んだ製造物として一体のものを対象にしなければならない。予約システムとなると、サービスであり、製造物ではないので、製造物責任法ではなく、民法の不法行為責任の原則に遡って対処しなければならない。

サブスクリプション型で逐次アップデートしているソフトウェアの場合、扱いに苦慮することになる。モノを前提とした法の体系とサブスクリプション型のサービスとの相性が悪いといっている（P43）。

話がやっとAIとなる。

AI原則など読んでいくと、この新しい世界が少し見えてくる気がした。自動運転で責任の主体は誰かが問われるのであるが、自動運転車に人格的自律性はないので、AIに責任は問えないというのは新保史生教授の考え方だ。

著者のAI責任の考え方は分からない。「もちろん、乗っている人（運転者）が危険に気づいてもどうすることもできないということがないように、システムを止めて手動に戻す仕組み（いわゆるキル・スイッチ）はあった方がよい」（P50）と書いているが、「人間の介入が的確なタイミングで行われ、かつ、介入した結果が、AIに任せたままの状態よりも危険を抑える方向に働くという仕組みでなければ、安全性を確保したシステムとは言えない」（P50）とする立場である。「人間の判断を介在させるとか、最終的に人間が操作を引き継ぐ余地を残すという方法で安全性を確保するというアプローチは、アイデア倒れに近いように思われる」（P50）と手厳しい。