人工知能（AI）の開発と倫理 ―日独仏が共同シンポジウムで模索する人間中心のAI―
© DWIH Tokyo/iStock.com/onurdongel
2021年3月19日
【文：熊谷 徹】
現在世界中の学界、産業界、政界が最も注目している先端技術の一つが、人工知能（AI）である。初歩的なAIは、すでに金融業界からソーシャルメディア、ネット販売に至るまで様々な分野で応用されている。将来はAIがさらに発展し、製造業や医学など広い範囲で人類に大きな恩恵をもたらすと予想されている。だがAIの自律が極端に進んだ場合、経済性、効率性だけを追求し、倫理や人権がおろそかにされる危険がある。つまり人間は機械に対する手綱を常に保たなくてはならない。
こうしたAIの長所と短所、人類がAIについて適用するべき原則について、２０２０年１１月１６日～２０日までドイツ、フランス、日本の専門家たちがオンライン上で大規模なシンポジウムを開催した。
「人間中心のAI：第２回仏独日シンポジウム」と名付けられたこの会議は、ドイツ 科学・イノベーション フォーラム東京（DWIH東京）、在日フランス大使館、日本の人工知能研究開発ネットワーク（AI Japan R&D Network)が開催したもの。当初は東京・お台場の日本科学未来館で開催される予定だったが、新型コロナウイルス感染の危険を減らすために、オンライン会議として実施された。仏独日の政界、学界、経済界からの代表約１００人が講演し、１１００人を超える人々が会議に参加した。
第１回会議は、２０１８年１０月に東京で開催され、日独仏がAIに関して協力する最初の道筋を示した。具体的にはドイツの研究振興協会（DFG）、フランスの国立研究機構（ANR）、日本の科学技術振興機構（JST）がAIに関する３ヶ国共同プロジェクトの公募などを行った。
今回の第２回会議では、仏独日の政府関係者らが各国のAI戦略について解説した他、「AIとコロナ・パンデミック」、「信頼できるAI」、「AIに関する地政学」などのテーマについて講演とパネル・ディスカッションが行われた。スタートアップ企業による、AIの応用例を紹介するコーナーも設けられた。会議の模様はユーチューブで見ることができる。
参加者たちはシンポジウム共同声明の中で、「２０１８年の会議では『人間中心のAI』というアプローチが中心的なメッセージだった。今回の会議では、仏独日が人間とAIのコラボレーション（協力）を共通の価値として最も重視することを再確認するとともに、健康、農業、リスクの防止、教育、民主主義などのテーマについて討議した。さらに我々は、人類がコロナ・パンデミック、気候変動、共同体の分断という地球規模の試練に直面しているという認識で一致した」と会議の内容を総括している。
そして仏独日は、２０２２年の第３回シンポジウムで人類が人新世（じんしんせい）において直面する諸問題を討議する方針を明らかにした。
人新世（＝アントロポセン、ドイツ語でAnthropozän, 英語でAnthropocene）とは、人類が生態系や地質に重大な影響を与える、想定上の地質時代を意味する。２０００年にオランダの化学者パウル・クルツェンらが提唱した概念で、その起点を何年にするかについては、学者たちの間で意見が分かれている。いずれにしても工業化が始まった１９世紀以降に、人類の活動が地球の地質や気候などにかつてなかったほど大きな影響を与え始めたという認識では、学者の意見は一致している。地球温暖化による気候変動は、そうした影響の一例にすぎない。
第２回シンポジウムの参加者たちは共同声明の中で「人新世という人類が地球とその生態系に多大な影響を及ぼす時代の諸問題について、人間とAIの関係だけではなく我々が生きている環境をも含めた観点から、議論したい」と述べている。
さらに参加者たちは「仏独日は、人間とAIに関して同じ価値観を持ち、共通の問題に直面している。このためこの３ヶ国が次回のシンポジウムでも中核的な役割を務めるが、我々は他の国々や地域の代表をも招いて、人類が直面する問題の解決にAIがどのように貢献できるかについて話し合いたい。AIは、一つの国や企業だけを助けるものではなく、人類全体と地球のために恩恵をもたらすべきだからである」と述べ、このシンポジウムにさらに国際的な広がりを持たせるという方針を明らかにした。
ドイツ政府は２０１８年１１月に「AI戦略」を発表し、２０２５年までに研究開発やAI専門家の育成のために３０億ユーロ（３７８０億円・１ユーロ＝１２６円換算）を投じることを決めていたが、２０２０年１２月にこの予算を５０億ユーロに増やす方針を打ち出している。政府はAI戦略の中で、国際協力を深化させるとともに「AIの応用は人間を中心とすること」と「AIの利活用については、公共の福祉を最優先にすること」と強調している。
AI研究と実用化が最も進んでいる国は、米国と中国だ。米国は小さな政府、規制緩和、自由放任主義、市場原理を重視するため、AIの開発と実用化ではビジネスの原理が最優先となる。アマゾン、グーグル、アップル、マイクロソフト、フェイスブックなどの巨大IT企業のAI研究・実用化は世界の最先端を進んでおり、欧州や日本に水を開けている。これらの企業の莫大な資金力は、今後もAIの実用化を飛躍的に進めるに違いない。
だが企業に対する政府の規制が弱い米国では、経済性と効率性を重んじるあまり、倫理への配慮や、人権重視が二の次となる可能性がある。そのことは、米国における個人情報保護の度合いが、欧州に比べてはるかに弱いことにも表われている。
また中国では国家・政府の利益が最優先とされ、個人情報の保護や倫理、人権は二の次である。顔認証などによる市民の監視には、AIが広く活用されている。
AIの特性は、一歩使い方を誤ると、人間が機械に従属させられる危険があるという点だ。IT専門家以外には理解できないブラックボックスが多いため、庶民にはAIの決定に対して異議を唱えることが難しくなる。
AIは技術的、科学的、経済的な側面だけではなく、倫理にも大きく関わるテーマだ。
たとえばAIを応用した自動運転車が走っている時に、前方に７０歳のお年寄りと、１０歳の子どもが突然飛び出したと仮定しよう。次の３つの選択肢がある。
① 車は７０歳のお年寄りをよけて、１０歳の子どもをはねてしまう。
② 車は１０歳の子どもをよけて、７０歳のお年寄りをはねてしまう。
③ 車は２人の歩行者をよけて、壁に激突しドライバーが重傷を負う。
この時、AIはどのような選択を行うべきだろうか？ドイツではAIや自動運転技術の倫理性を議論する専門家会議がある。現在のところ専門家の間では「人間は、機械が人間の生死を選択するようなアルゴリズムを、機械に入力してはならない」という見解が有力になっている。つまり、機械が「１０歳の子どもは、７０歳のお年寄りに比べると、まだ長く生きるはずだから、お年寄りに犠牲になってもらい、子どもを救おう」と決断するようなアルゴリズムを機械に入力することは、「非倫理的」であるとして禁じられる。機械も、人間も「神」のような役割を演じてはならないということだ。倫理への配慮なしに、AIについて論じることはできない。
したがってAIをめぐる議論には、IT専門家だけではなく、倫理学者、哲学者、法学者、政治学者も参加させるべきだ。
またAIのアルゴリズムに入力ミスがあったために、市民が健康を害したり、経済損害を受けたりした時には誰が補償するのか。今後AIは医療機関で病気の診断などに使われていくが、AIが診断を誤る可能性はゼロではない。
つまり仏独日はAIの活用に関して、倫理性、人権やプライバシーを重視し、米国や中国とは異なる第３の道を歩むべきだ。ビジネス優先の米国、国家利益優先の中国とは一線を画してほしい。その意味で仏独日シンポジウムの参加者たちが「人間中心のAI」を大きく掲げたことは、日欧が世界に対して発信した重要なメッセージとして、高く評価されるべきだと思う。
DWIH東京シリーズ「在独ジャーナリスト 熊⾕徹⽒から見たドイツの研究開発」の全記事はこちら
熊谷徹氏プロフィール
１９５９年東京生まれ。１９８２年早稲田大学政経学部経済学科卒業後、NHKに入局。日本での数多くの取材経験や海外赴任を経てNHK退職後、１９９０年からドイツ・ミュンヘンに在住し、ジャーナリストとして活躍。ドイツや日独関係に関する著書をこれまでに２０冊以上出版するだけでなく、数多くのメディアにも寄稿してドイツ現地の様子や声を届けている。