世界初のAI利用に関する法案「欧州AI法案」が大筋合意へ！日本への影響は？

2022年11月に公開されたChatGPTは、その利便性で世界中のビジネスモデルを大きく変化させました。

日本でも、ChatGPTをはじめとするテキスト生成AIやその他のAIを、ビジネスに取り入れる企業が増えています。

AIが急速に普及する中、これまでAIの取り扱いに関する明確な法規制は存在しませんでした。

ところが、欧州連合（EU）の理事会および欧州議会が、2023年12月9日（現地時間）にAIの包括的な規制案の正式施行に関して、大筋合意に達したと発表したのです。

このAI規制法（EU AI Act）は、2021年4月に欧州委員会が提案、2023年6月に欧州議会で可決されEU主要機関内で最終案の協議が進められていましたが、このたびEU理事会と議会でその施行について大筋合意へと至りました。

これにより、AI規制法は欧州市場に投入され、AIの潜在的なリスクと影響のレベルに基づいて、AIに対する義務を定めるものとなります。

この発表は、実質的に「世界初のAI法案」が成立することを意味しています。

また、この法案の成立はEUだけに限ったものではなく、日本を含めた世界のAI使用に影響を与える法案です。

そこでこの記事では、欧州AI法案の内容を改めて確認をしながら、日本企業に与える影響を考察します。

欧州AI法案は、企業がAIを活用してビジネスを行うにあたって、その動向に大きな影響を与える重要な法案ですので、どうぞ最後までご確認ください。

テキスト生成AIは中小企業のビジネスをどう変えるのか？国内事情を考察

欧州AI法案の内容

まずは、欧州AI法案の内容について確認しておきましょう。

合意への背景

正式名称を「AIに関する整合的規則（AI法）の制定及び関連法令の改正に関する欧州議会及び理事会による規則案（REGULATION OF THE EUROPEAN PARLIAMENT AND OF THE COUNCIL LAYING DOWN HARMONISED RULES ON ARTIFICIAL INTELLIGENCE （ARTIFICIAL INTELLIGENCE ACT） AND AMENDING CERTAIN UNION LEGISLATIVE ACTS）」という欧州AI法案とは、EU域内の約4億5000万人の消費者を保護するために生まれた法案です。

EU加盟国と欧州議会、そして執行機関による欧州委員会の3者協議の末、正式な合意へと駒が進められました。

正式な施行は2026年頃と目されています。現時点においてこの法案は、AIの利活用を規制する世界初のAI規制法だと言って間違いはありません。

欧州AI法案は、AI技術が人間の基本的権利を尊重し、公平かつ責任ある方法で使用されることを保障するのが目的です。この法律により、事業者にはAI技術の透明性と信頼性の確保が求められ、ユーザーの権利保護が強化されます。

欧州委員会委員長のウルズラ・フォン・デア・ライアン氏は、この法案の合意に際して「人々と企業の安全と基本的権利のために、この世界初のAI法案を歓迎する。」とX（旧Twitter）にポストしています。

The 🇪🇺 AI Act is a global first.

A unique legal framework for the development of AI you can trust.

And for the safety and fundamental rights of people and businesses.

A commitment we took in our political guidelines – and we delivered.

I welcome today's political agreement.
— Ursula von der Leyen (@vonderleyen) December 8, 2023

目的

この法案の主な目的は、AIの安全性、基本的権利と民主主義の尊重を確保しつつ、EUのAI関連分野の企業の成長を確保することです。

同時に、EU域内の約4億5,00万人の消費者を保護することを目的としています。

AI規制法案はEU域内でAIを用いた製品・サービスを提供する場合の「事業者」と「利用者」の双方を対象としています。また、域外の企業が提供する輸入製品や、インターネットを通して提供するAIシステムなども含んでいるため、何らかの形でEUでサービスを展開する日本企業も規制の対象になるのです。

リスクベースによるAIの分類

欧州AI法案は、AI技術に関するリスクを「リスクベースアプローチ」として、次の4つのカテゴリーに分けています。

許容できないリスク
ハイリスク
限定リスク
最小リスク

これらのカテゴリーは、AIの使用による潜在的なリスクの程度に基づいており、それぞれに異なる規制が適用されます。

許容できないリスク

「許容できないリスク」に分類されるAIは、人間の安全や権利に明確な脅威となるものが該当し、その使用は禁止されます。

例えば、政府による社会的スコアリングシステムや、公共の場でのリアルタイム顔認識システムなどがこれに該当します。

許容できないリスクに分類されるAIは、さらに4つの類型に分けられています。

サブリミナルな技法を用いて精神的・身体的な害を生じさせるなど、対象者の行動を歪めてしまうような場合
年齢・障害などを悪用するなどして精神的・身体的な害を生じさせてしまうような場合
人の信用性評価を行い、特定の人や属するグループに不利益をもたらすような場合
法執行を目的として公の場所でリアルタイムな遠隔生体識別システムを組み込んでいる場合（一部例外あり）

ハイリスク

「ハイリスク」AIは、公衆の安全や健康、基本的権利に大きな影響を及ぼす可能性があるAIとして分類されます。これらは、厳格な規制が適用されます。

例としては、自動運転車のナビゲーションシステムや、AI支援の病院管理システムなど社会にとって非常に重要な役割を果たすAIです。

ハイリスクAIは、さらに次の2つに分類されます。

安全型：EU法令の対象製品の安全装置としての使用を意図されているAI
スタンドアロン型：安全型以外で人権や安全に影響を与える可能制が高いと判断されるAI

安全型に該当する場合は、事前に第三者適合評価が必要となります。

限定リスク

「限定リスク」カテゴリーのAIは、一般的なリスクを持つもので、オンライン広告配信や一部の人材募集システムなどが含まれます。

この区分に分類されるAIは、サービスの提供時にユーザーに対して「AIを利用している」ことを知らせる「透明性の義務」が発生します。

例えば、AIによるチャットボットを活用して何らかのサービスを提供する場合では、その「チャットボットがAIを利用したシステムであることをユーザーに知らせなければならない」などが実例です。

これらのシステムは、個人に対して直接的な危険はもたらさないものの、透明性や説明責任の要件が設けられています。

最小リスク

「最小リスク」AIは、日常生活で広く利用され、比較的リスクが低いとされるもので、上記3つの区分に該当しないAIシステムを指し、使用に関して特に規制はありません。AI規制法の趣旨を鑑みた行動規範を、自主的に適用することが推奨されているだけです。

例としては、スマート家電の制御システムやエンターテイメント関連のアプリケーションなどが該当します。

これらは、生活の質を向上させる目的で利用されている限り、特に規制は適用されませんが、一般的なデータ保護規則の対象となります。

罰則

違反した企業には、最大で3,500万ユーロ（約55億円：2023年12月12日現在）、または世界売上高の7％までのどちらか「高い方」が、制裁金として課されます。

さらに、違反するAIシステムの市場からの取り下げや、リコール等の制裁措置が取られることもあり、この罰則を課されれば、実質EU域内でのビジネスは難しくなってしまうでしょう。

日本企業への影響

先述の通り、欧州AI法案の施行は2026年頃が予定されていますが、日本でも「G7にて合意した開発企業向けの国際指針と行動規範を開発者と提供者を対象に守らせる措置の検討」を始めるなど、規制に関する動きが見え始めています。

大阪大学招へい教授の三部裕幸氏が、2022年10月26日に総務省より発表した資料「EUのAI規則案の概要 ――欧米のその他の動きや日本への示唆とともに」でも、「EUの消費者をターゲットにAIシステムやサービスを提供すれば、日本企業も適応対象となり、違反すると巨額の制裁金が課され、EUでビジネスができるおそれもある」と指摘しています。