法律情報

国内外の最新の法律動向や、注目のトピックに関する法律情報を随時発信
知的財産全般、著作権法、不正競争防止法、種苗法等についての法律情報を
お探しの場合には「知財一般」を選択して下さい。

自律性を有するAI(自律AI)の違法行為と責任・救済

AI技術の進歩は著しく、生成AIや自動運転車など、AIの自律性が高まってきている。AIにより自律性の程度は様々であるが、AIが一定程度の自律性を有する場合、AIの出力は人間の予想できないものになる。

自律性を有するAIの違法行為として、すでに社会的に大きな議論になっているものの例として、生成AIによる著作権侵害、自動運転レベル4の自動運転車による事故の責任問題などがある。

自律性を有するAIの違法行為については、様々な見解が検討されており、それぞれメリットとデメリットがあると思われる。例として、以下の4つの見解について検討する。

1. ロボット法等の観点から、端的にAIに責任を認める見解
2. 製造物責任法等により、製造者等に責任を認める見解
3. AIの利用者に、不法行為等の責任を認める見解
4. AIの違法行為による損害は、国の運用する保険でカバーする見解

それぞれのメリットとデメリットは、たとえば、以下のようなものが考えられる。

1.ロボット法等の観点から、端的にAIに責任を認める見解
メリット:
(1)構成として自然であり、わかりやすい
(2)AIの自律性が今後高まっても対応できる
デメリット:
(1)現行法体系との整合性が悪い
(2)AIに責任財産が十分にないと被害者の救済に欠ける

2.製造物責任等により、製造者等に責任を認める見解
メリット:
(1)現行法体系との整合性が高い
(2)製造者がAIの設計に慎重になり安全性が高まる
デメリット:
(1)AIの自律性が高まるにつれ、製造者に帰責できない場合が多くなる
(2)AIの違法行為が避けられない場合、製造者に萎縮効果がある

3.利用者に責任を認める見解
メリット:
(1)現行法体系との整合性が高い
(2)利用者がAIの使用に慎重になり安全性が高まる
デメリット:
(1)AIの自律性が高まるにつれ、利用者に帰責できない場合が多くなる
(2)AIの違法行為が避けられない場合、利用者に萎縮効果がある

4.AIの違法行為による損害は、国の運用する保険でカバーする見解
メリット:
(1)ニュージーランド事故補償制度など外国に参考となる制度がある
(2)被害者の迅速な救済が可能
(3)製造業者への萎縮効果がなくなり、産業の振興になる
(4)利用者への萎縮効果がなくなり、AIの利用が促進される
デメリット:
(1)違法行為の防止が不十分なAIの製造などモラルハザードのおそれ
(2)違法行為の防止が不十分な場合、国が保険制度を運用しても保険制度が破綻するおそれがある

以上のように、それぞれの制度は一長一短がある。現行法体系と整合性が高いのは2と3と思われる。生成AIによる著作権侵害、自動運転レベル4の自動運転車による事故の責任問題についても、現時点では2と3の方向で検討されている。

このように、現行法体系との整合性が現在は重視されている。しかし、たとえば、自律性の高いAIや、レベル5の完全自動運転車など、今後もAIの自律性は高まり続けることが予想される。

今後AIの自律性が高まっていくと、2と3のデメリットが大きくなり、1と4のメリットが大きくなる可能性があると思われる。

1については、今後のAI技術は急速に進歩し、超知能に達することが予想されている。超知能が意識を持つ可能性を考えると、AIの人権を無視した不合理な帰責はできず、AIの人権を検討する必要があると思われる(AIの人権(AI権))。1は端的な構成でわかりやすいが、AI技術の将来の発展を慎重に検討の上、現行法体系を大きく書き換える必要があり、今後の大きな課題となると思われる。

4については、デメリットの(1)(2)の問題が深刻である。この点を改良できれば、今後AIの自律性が飛躍的に高まり、2と3が破綻した場合、それに代わる選択肢となると思われる。

(1)(2)の問題点に対しては、「法律学としてのAIアライメント」という新しい考え方に基づき、「国のデータ整備義務」を課すことが考えられる。

法律学におけるAIアライメントとは、人工知能を人間の意図した目標や社会規範に沿うようにすることと定義できる。人工知能に人間の社会規範を教え、適法に動作させるためには、多くのAI学習用データが必要となる。

「国のデータ整備義務」は、人工知能が人間の社会規範を理解するために必要なAI学習用データを、国が整備する義務である。この義務を国が果たすことで、4の弱点を補うことができる。

そして、「国のデータ整備義務」により整備されたAIアライメント用のデータを適切に使用するなど一定の条件を満たせば、製造者は免責されるようにし、製造業者の萎縮効果を防止することが考えられる。また、利用者も人工知能に違法な指示等をしなければ責任を負わないようにして、利用者の萎縮効果も防止することが考えられる。

このように萎縮効果を防止することにより、「AI産業の振興」と「AIの利用の促進」が、飛躍的に実現され、日本の現在の経済の停滞と超高齢化社会の問題が解決されることが期待される。

また、被害者の救済は、国の運営する保険から迅速に行なわれる。被害者の救済の観点からも理想的な制度といえる。

また、国が「国のデータ整備義務」を怠ると、保険支払いが増加することから、国がAIアライメント用のデータの整備に全力を尽くすことが期待できる。これは、超知能の時代に、AIの違法行為により、大きな損害が生じ、人類が絶滅しないために重要なことである。

このように、4と「国のデータ整備義務」との組み合わせが、今後の検討の1つの選択肢となると思われる。

なお、データの整備(たとえば、データインカム(DI)の制度)は、地方公共団体、非営利団体、営利企業等も行なうことが望ましい(データ道路構想)。国はこれらのデータを付番して、一元的にアクセスできるようにし、AIアライメント用のAI学習用データを整備すべきであろう。

執筆者

法律部アソシエイト 弁護士

岡本 義則 おかもと よしのり

[業務分野]

企業法務 国際法務 知財一般 特許 意匠

岡本 義則の記事をもっと見る

知財一般分野の他の法律情報

検索結果一覧に戻る

お電話でのお問合せ

03-3270-6641(代表)

メールでのお問合せ

お問合せフォーム

Section 206, Shin-Otemachi Bldg.
2-1, Otemachi 2-Chome
Chiyoda-Ku, Tokyo 100-0004, Japan
Tel.81-3-3270-6641
Fax.81-3-3246-0233

ご注意

  • ・本サイトは一般的な情報を提供するためのものであり、法的助言を与えるものではありません。.
  • ・当事務所は本サイトの情報に基づいて行動された方に対し責任を負うものではありません。

当事務所のオンライン及びオフラインでの個人情報の取り扱いは プライバシーポリシーに従います。