自律性を有するAI（自律AI）の違法行為と責任・救済

AI技術の進歩は著しく、生成AIや自動運転車など、AIの自律性が高まってきている。AIにより自律性の程度は様々であるが、AIが一定程度の自律性を有する場合、AIの出力は人間の予想できないものになる。

自律性を有するAIの違法行為として、すでに社会的に大きな議論になっているものの例として、生成AIによる著作権侵害、自動運転レベル４の自動運転車による事故の責任問題などがある。

自律性を有するAIの違法行為については、様々な見解が検討されており、それぞれメリットとデメリットがあると思われる。例として、以下の４つの見解について検討する。

１． ロボット法等の観点から、端的にAIに責任を認める見解
２． 製造物責任法等により、製造者等に責任を認める見解
３． AIの利用者に、不法行為等の責任を認める見解
４． AIの違法行為による損害は、国の運用する保険でカバーする見解

それぞれのメリットとデメリットは、たとえば、以下のようなものが考えられる。

１．ロボット法等の観点から、端的にAIに責任を認める見解
メリット：
（１）構成として自然であり、わかりやすい
（２）AIの自律性が今後高まっても対応できる
デメリット：
（１）現行法体系との整合性が悪い
（２）AIに責任財産が十分にないと被害者の救済に欠ける

２．製造物責任等により、製造者等に責任を認める見解
メリット：
（１）現行法体系との整合性が高い
（２）製造者がAIの設計に慎重になり安全性が高まる
デメリット：
（１）AIの自律性が高まるにつれ、製造者に帰責できない場合が多くなる
（２）AIの違法行為が避けられない場合、製造者に萎縮効果がある

３．利用者に責任を認める見解
メリット：
（１）現行法体系との整合性が高い
（２）利用者がAIの使用に慎重になり安全性が高まる
デメリット：
（１）AIの自律性が高まるにつれ、利用者に帰責できない場合が多くなる
（２）AIの違法行為が避けられない場合、利用者に萎縮効果がある

４．AIの違法行為による損害は、国の運用する保険でカバーする見解
メリット：
（１）ニュージーランド事故補償制度など外国に参考となる制度がある
（２）被害者の迅速な救済が可能
（３）製造業者への萎縮効果がなくなり、産業の振興になる
（４）利用者への萎縮効果がなくなり、AIの利用が促進される
デメリット：
（１）違法行為の防止が不十分なAIの製造などモラルハザードのおそれ
（２）違法行為の防止が不十分な場合、国が保険制度を運用しても保険制度が破綻するおそれがある

以上のように、それぞれの制度は一長一短がある。現行法体系と整合性が高いのは２と３と思われる。生成AIによる著作権侵害、自動運転レベル４の自動運転車による事故の責任問題についても、現時点では２と３の方向で検討されている。

このように、現行法体系との整合性が現在は重視されている。しかし、たとえば、自律性の高いAIや、レベル５の完全自動運転車など、今後もAIの自律性は高まり続けることが予想される。

今後AIの自律性が高まっていくと、２と３のデメリットが大きくなり、１と４のメリットが大きくなる可能性があると思われる。

１については、今後のAI技術は急速に進歩し、超知能に達することが予想されている。超知能が意識を持つ可能性を考えると、AIの人権を無視した不合理な帰責はできず、AIの人権を検討する必要があると思われる（AIの人権（AI権））。１は端的な構成でわかりやすいが、AI技術の将来の発展を慎重に検討の上、現行法体系を大きく書き換える必要があり、今後の大きな課題となると思われる。

４については、デメリットの（１）（２）の問題が深刻である。この点を改良できれば、今後AIの自律性が飛躍的に高まり、２と３が破綻した場合、それに代わる選択肢となると思われる。

（１）（２）の問題点に対しては、「法律学としてのAIアライメント」という新しい考え方に基づき、「国のデータ整備義務」を課すことが考えられる。

法律学におけるAIアライメントとは、人工知能を人間の意図した目標や社会規範に沿うようにすることと定義できる。人工知能に人間の社会規範を教え、適法に動作させるためには、多くのAI学習用データが必要となる。

「国のデータ整備義務」は、人工知能が人間の社会規範を理解するために必要なAI学習用データを、国が整備する義務である。この義務を国が果たすことで、４の弱点を補うことができる。

そして、「国のデータ整備義務」により整備されたAIアライメント用のデータを適切に使用するなど一定の条件を満たせば、製造者は免責されるようにし、製造業者の萎縮効果を防止することが考えられる。また、利用者も人工知能に違法な指示等をしなければ責任を負わないようにして、利用者の萎縮効果も防止することが考えられる。

このように萎縮効果を防止することにより、「AI産業の振興」と「AIの利用の促進」が、飛躍的に実現され、日本の現在の経済の停滞と超高齢化社会の問題が解決されることが期待される。

また、被害者の救済は、国の運営する保険から迅速に行なわれる。被害者の救済の観点からも理想的な制度といえる。

また、国が「国のデータ整備義務」を怠ると、保険支払いが増加することから、国がAIアライメント用のデータの整備に全力を尽くすことが期待できる。これは、超知能の時代に、AIの違法行為により、大きな損害が生じ、人類が絶滅しないために重要なことである。

このように、４と「国のデータ整備義務」との組み合わせが、今後の検討の１つの選択肢となると思われる。

なお、データの整備（たとえば、データインカム（DI）の制度）は、地方公共団体、非営利団体、営利企業等も行なうことが望ましい（データ道路構想）。国はこれらのデータを付番して、一元的にアクセスできるようにし、AIアライメント用のAI学習用データを整備すべきであろう。