AI規制の包括案による影響は?EU発の新たなルールを知って変化に備えよう

キャリア

こんにちは、yuyaです。
あなたは今、世界で「AI」が規制対象になりつつあることをご存知ですか?

すでにAIは、私たちの暮らしに欠かせない存在であるといっても過言ではないでしょう。「利便性・効率性・生産性」を向上させる人工知能が、どうして規制されるのでしょうか。

予測分析はビジネスの鉄則です。世界の動向を知っておくと、日本への影響も予測できるようになるでしょう。ぜひ最後までご覧ください。

AI規制の包括案とはどんなもの?

多くの産業で活用されてきたAI。2020年4月、世界初となる「規制包括案」がEUの欧州委員会より発表されました。すべてのAI規制するのではなく、リスクの高いシステムについてのみ規制するものであるといいます。

これまでは「市場に出回ってから」性能や影響について判断されてきたAI。それらを「事前に調査」することで、悪用された場合のリスクを抑えることを目的にしています。

また、事前審査はこれまで野放しであった開発者・事業者に「自らが開発・展開する技術の社会的責任を自覚してもらう」ことも狙いのようです。今回の規制案ではAIが4つのレベルに分類されました。

1:受け入れられないリスク(禁止)
2:ハイリスク
3:限られたリスク
4:最小限のリスク

以上4つの区分により規制内容が変わるというのが本案の特徴です。また、ほとんどのAIは「最小限のリスク」に該当していると声明が出されていますから、すぐさま人工知能が使えなくなるということは無さそうですね。

審査を放棄するなど違反をすれば最大約39億円、もしくは売上高の6%とを比べ高いほうが罰金として科される可能性もあるようです。事前知識として持っておいて損はないでしょう。

AI規制の内容は?レベルによってどう変わるの?

EUによって発表されたAI規制の包括案は4つのレベルでAIを区分しています。それぞれどのような内容なのか見ていきましょう。

1:受け入れられないリスク(禁止)

このレベルに該当するAIは禁止されることとなりました。主に「国家による個人の監視」が該当するようです。例えば、警察が公共の場で顔認証技術(目や鼻の形や位置・顔の輪郭から個人を識別する技術)などを用いて市民を常時監視することを禁止しています。

また、中国で話題となった「信用スコア(個人の格付け)」。こちらではスコアレンディング(融資の際など、個人情報を元に信用力を数値化する)が応用されています。中国のケースでは国家による行き過ぎた監視・管理体制であるということから、EUで禁止する動きが始まるようです。

2:ハイリスク

「運輸やガス・水道関連の重要インフラ、教育現場での試験評価、ロボットを使った手術、採用での履歴書管理、ローンなどに絡む信用調査、移民・難民に関わる書類の管理などに使うAIが該当する」(※1)

このように、ハイリスクであるとされるAI技術は幅広い産業が対象になります。このような技術を導入する場合は「事前の審査」が第3者機関によって行われることとなるようです。データを悪用する危険がないと判断されなければ、運用は開始できません。

3:限られたリスク

限られたリスクに該当するものの例としては「チャットボット」が挙げられています。これは入力された文章に対し自動で解答を行うもので、企業のホームページなどにおける問い合わせ対応の窓口として機能しています。LINEアプリの公式アカウントでも馴染み深いですね。

大量のデータから自動的に学習を行う「ディープラーニング」によって、チャットボットはまるで人のように多様な文面に対応できるようになりました。今回の規制案では運用にあたり「AIによる対応」であると記載して、利用者が実在の人物と誤解しない形式づくりを促しています。

4:最小限のリスク

最小限のリスクに該当するAI技術は、基本的にこれまでと変わらぬ運用が可能であるといいます。新たな対応をする必要はなく、法に則った運用が求められるのみです。ほとんどのAIはこの最小限のリスクに該当するとの声明が出されました。

例えばスパムフィルター。メールサーバーの中で迷惑メールを排除するAI技術です。またNPC(ノンプレイヤーキャラクター)など、ビデオゲームにおけるゲームプレイAIもこのレベルです。

AI規制案の日本における評価や懸念点は?

日本国内からは、その規制内容に「厳しい」という意見が集まっています。ではなぜこのような声が上がっているのでしょうか。

日本を支える産業に打撃

かつての勢いは失われつつあるものの、未だに日本では技術大国として数多くのAIシステムが開発され続けています。規制案でハイリスクとされる自動運転機能・手術支援ロボットなど、IT産業や機械工業の発展に貢献してきたAIが規制されれば、日本経済全体への影響は避けられません。

コストが掛かる

開発しているAIシステムがハイリスク以上である場合、事前の審査を受ける必要があることはお伝えしたとおり。審査には人員を割かなければならないでしょう。人件費などのコストが増える可能性もあります。

開発が阻害される

これまでの開発が規制案によって禁止される可能性があります。開発計画の中に、第3者による審査プロセスを新たに盛り込まなくてはなりません。業務フローが増えれば開発にかかる時間も増してしまうでしょう。

AI規制案を受けて私たちが注視すべき事は?

欧州委員会の委員長は「AIは人間に仕える必要があります。AIは常に人々の権利を遵守する必要があるのです」と述べました。(※2)つまりEUは規制によって市民を守り、AIの悪用を防ぎつつ安心して使える環境を整えられる、と考えているようです。

こうした規制案が発表されてから、実際に法律として施行されるまでには時間がかかります。制定までどのような変遷となるのかチェックしておくことで、日本産業の変化をリアルタイムで読み解くことにもつながるでしょう。

また、EUはこうした法案を元にルール作りをすることで世界をリードしたい狙いがあります。経済圏として大きな影響力がある限り逆らうことはできないでしょう。EUで商売をしたければ、日本は従うしかありません。

変化の激しい社会において、ビジネスマンは常に最新の情報を追いかけることが求められます。AIの今後について興味を持たれた方は、ぜひ動向をチェックしてみてください。

※1 日本経済新聞
※2 MIT Tech Review

yuya

4,679 views

複数メディアでの記事執筆やYouTuberの原稿作成など、掛け持ちライターをしています。本職は流通業界。ピアノ・ギターが趣味。気になったこと・役立ちそうなこ...

プロフィール

ピックアップ記事

関連記事一覧

  1. この記事へのコメントはありません。