EU AI法（AI規制法）と日本のAI政策の分岐点（AIの「法規制」より重要なこと）

欧州連合（EU）においてAI法（Artificial Intelligence Act）が成立したことが話題になっている。EU AI法は、EU AI規制法、EU AI包括規制法などとも呼ばれている。

EU AI法は、EU外の企業にも域外適用され、日本企業もEU域内に製品やサービスを提供するなど一定の条件で適用の対象となりうる。このように、日本企業も対象となり、罰金の最高額も高いため、日本においても対応が必要な問題となっている。

EU AI法は懸念されるリスクに応じて対象のAIシステムを分類し、それぞれの要件、義務、罰則を定めている（リスクベースのアプローチ）。

一方、日本の内閣府のAI戦略会議においては、令和６年５月２２日（水）の第９回会議において、AI戦略チームによる「『AI 制度に関する考え方』について」（令和６年５月）との文書が発表されている。

同文書４～６頁では、EU、米国、日本の状況を検討し、日本は、ハードローではなく、ソフトローによる対応を中心に行ってきたことを述べている。

同文書１８頁では、「AI 技術の変化は依然として早く、利用形態やリスクなどの予測は難しいが、その影響の大きさや国際動向等を考えると、国民の安全・安心を守る観点から、あるべき AI 制度について検討を進めていくことが重要である。」と述べている。

上記の指摘のとおり、AI技術の進歩は非常に速く、そのもたらすプラスは大きい。ハードローで不適切なAI規制をした場合、安全性が高まらず、萎縮効果を生じて大きなマイナスが生ずるおそれがある。一方で、リスクベースのアプローチにより、規制される領域を限定し、規制されない領域を明確にするのは、むしろハードローによる方が好ましい側面もある。

このように、AI技術の進歩は非常に速く、ハードローによる規制には危険性があるが、一概にソフトローが好ましいとも限らず、EU　AI法のような包括規制を日本が採用すべきなのかについては、慎重な検討が必要と思われる。

一方で、人間を名宛人として法規制をしても、AIのリスクが実質的に軽減するのかどうかというより深刻な問題がある。AI技術の進歩は非常に速く、近年ではAIによる人類絶滅のリスクを含め、AIアライメントの問題がAI研究者により真剣に議論されている。

人工知能のアライメントとは、人工知能を人間の意図した目標や社会規範に沿うようにすることと定義できる。人工知能を人間の意図した目標や社会規範に沿うようにできない場合、人間を名宛人として規制法を作ることは、あまりリスクの低減にならない。

なぜなら、規制法は、人間を名宛人として、人間の行動を縛るものである。しかし、人間自体が、人工知能を人間の意図した目標や社会規範に沿うようにできない場合、人間の行動を縛っても、AIの違法行為は防止できないからである。

この事態は既に生じている。その最先端の現れが、生成AIと著作権の問題である。著作権法は人間の行動を縛っているが、生成AIが何を出力するかは開発者も予想できない。そのため、人間を名宛人とした著作権法が存在するにもかかわらず、生成AIの出力による著作権侵害が社会問題となっているのである。

生成AIと著作権侵害の問題は、AIアライメントの問題の最初の現れの一例にすぎない。高度なAIの出力は、人間の予想を超えるものになる。そのため、人間を名宛人とする法規制をしても、高度なAIの違法行為を防止することはできない時代になっている。

この点は、AIの学問分野だけではなく、法律学においても、AIアライメントという分野を新設して考えていく必要がある。高度なAIの時代には、新しい視点から、AIに関する法律学を作っていくことが必要となると思われる。

筆者は、生成AIと著作権の問題を、AIアライメントの問題として再構成し、一定のAIアーキテクチャの採用及び法律の制定により、根本的に解決する方法を提案している。解決策としては、AIのアーキテクチャとして、（１）「コンプライアンスアーキテクチャ」、または、（２）「スーパークリーンアーキテクチャ」を用いることを提案している。

コンプライアンスアーキテクチャとは、人工知能自体に、人工知能の出力や行動の前に、適法性を判断し、法律を守るコンプライアンス部分を設けるアーキテクチャである。たとえば、画像生成AIの場合、コンプライアンスアーキテクチャは、画像生成AIの生成した画像が、学習用データに含まれる画像に対し、著作権法上の「類似性」を満たすか否かを判定し、「類似性」を満たす可能性がないと判断した場合にのみ、画像の出力を許可する。そのためには、「類似性」の判断のデータが必要である。著作権の判例データベースはあるが、それだけではデータ量が足りない。後述のデータインカム（DI）の制度等を導入して、データを集積する必要があるであろう。

もう一方の、スーパークリーンアーキテクチャによる解決には、著作権的にクリーンな大規模データベースを作る必要がある。しかし、現在は、著作権的にクリーンなデータベースは、データ量を用意できない側面がある。インターネットをクロールしたデータは、データ量は大きいが、著作権の扱いが不明確なデータを大量に含む。そこで、インターネットをクロールしたデータよりも大きなデータ量のクリーンなデータベースを作ることが重要となる。

このように、人工知能を適法に動作させるためには、多くの学習用データが必要である。AIの学習用データの大量の集積には、人工知能の学習用データによる収入であるデータインカム（DI）の制度の実現が有用である。

AIの「学習用データの整備」が、AIの「法規制」よりも、実質的にAIの安全性を高めるために重要となるという視点は、現在見逃がされている重要な視点であろう。

法律家は、AIの安全性を考える場合、すぐに「法規制」を考えるかもしれない。他の分野では、そのような思考は自然であろう。しかし、高度なAIの時代においては、「法規制」をしても、実質的に安全性が高まらない可能性がある。「法規制」は、人間の行動を縛るだけであり、AIが違法行為をすることを防止できないからである。

人間は、「法規制」の有無にかかわらず、AIが法律を守るように動作させたい場合が多いであろう。しかし、それはデータがなければできないのである。AIの違法行為を防止するためには、AIの「学習用データの整備」は、AIの「法規制」の問題よりもはるかに重要であるという視点は、高度なAIの時代に特有な新規な視点であるために、見落とされているのである。

AI学習用データについては、政府もデジタルアーカイブ事業を行なっているが、インターネットをクロールしたデータ量をはるかに超えるデータ量を集めるには、一般から、AI学習用データの出願を広く認める制度を創設することが有用となる。

インターネットをクロールしたデータ量は、一見すると大きく見えるが、国民１人当たりがSNS、ブログ等でアップロードしているデータ量は、ユーチューバーでもない限り大きくはない（フェルミ推定）。データの出願制度を設けて、国民の多くが１人当たり相当のデータを出願する制度にすれば、インターネットをクロールしたデータ量をはるかに超えるデータを集めることは優に可能である。

また、データの質の問題は、データに一定の審査をして、審査を通ったデータに対して、定期的な収入（データインカム（DI））が支払われる仕組みにすることができる。データインカム（DI）の財源については、データの重要性は、今後は道路や鉄道よりも高くなり、道路や鉄道の整備のレベルの公共投資として十分な財源を充てる必要がある。日本全国が道路で結ばれているのは、多くの先人の努力の結晶である。そのためにどれだけの金額と労力が投資されたのであろうか。道路整備には批判もあるが、道路整備のおかげで、インフラが整って生活が改善している。

データの蓄積にも道路と同様に大規模な財源を割り当てる必要がある。データインカムの制度については、制度設営コスト等のコストを懸念する考え方もあるが、AIアライメントに失敗した場合、AIの違法行為により人々に大きな損害が出るだけではなく、人類絶滅のリスクにもなる可能性がある。何を重視するかの優先順位を誤ってはならないであろう。

出願されたデータは、AIアライメントの基礎データとなる。そして、出願されたデータを使用した場合、著作権等の請求を受けないことを法律で保証し、万が一著作権侵害のデータが混入していた場合、保険でカバーするようにすることが考えられる。

データインカム（DI）の制度は、国だけではなく、地方公共団体、非営利団体、営利企業等様々な団体で行なうことができる。それぞれで収集したデータは付番し、一元的にアクセスできるようにする。少なくとも付番の点については法整備をすることが好ましいであろう。また、付番をすることにより、万が一著作権、個人情報等の問題が生じた場合には、当該データを特定して除去できるようにする。

これは道路の整備に喩えることができる（「データ道路構想」）。すなわち、国、地方公共団体、非営利団体、営利企業等は、それぞれデータインカム（DI）の制度を導入し、データを収集する。これは、国道、県道、市道、私道（通行料無料）、私道（通行料有料）などの道路を作ることに相当する。そして、それぞれのデータを付番して、一元的にアクセスできるようにする。これは、全国の国道、県道、市道、私道等の各種の道路を接続して、どこにでも行けるようにすることに相当する。

このことにより、著作権等の問題のないクリーンな超巨大データベースが出来上がる。クリーンな超巨大データベースを学習に用いるようにすることにより、生成AIと著作権侵害の問題を終局的に解決できる。

法律家は、AIの安全性を考える場合、すぐに「法規制」を考えてしまいがちかもしれない。しかし、高度なAIの時代には、AIの「法規制」をしても、人間が法規制の名宛人になるにすぎず、AIの違法行為は防止できない。AIの違法行為を防止するためのデータがなければ、AIの違法行為を防止できないのである。

「法規制」の有無にかかわらず、極めて高度なAIの開発者は、人類の絶滅を避けるために、真剣にAIアライメントのためにあらゆる手段を講じる可能性が高いであろう。しかし、AIアライメントのためのデータが十分になければ、人工知能を人間の意図した目標や社会規範に沿うようにすることはできない可能性があるのである。

このように、データインカム（ＤＩ）の制度の導入によるAIの「学習用データの整備」の問題は、AIの「法規制」の問題よりも、はるかに重要な側面がある。

政府による、あるべきAI制度の検討においては、AIの「法規制」だけに偏ることなく、むしろ、AIの「学習用データの整備」の制度を中心的な課題として検討していくことが、重要となると思われる。