自動運転車両を市場に投入する前には、技術的な問題にとどまらず、解決すべきさまざまな課題があります。自動運転車両の開発に際しては、倫理的な問題も浮上してきます。このインタビューでは、ミュンヘン工科大学の商業倫理学教授であるChristoph Lütge博士が、AIおよび自動運転で生じる機会とそのリスクについて語り、学生たちに倫理的な振る舞いについてどのように教えているかを説明します。
倫理学者はこのテーマに関する多数の問題に直面しています。そして、日々の問題に対する彼らの答えは意外にも現実的なものが多いと言えます。Lütge教授、新型コロナウイルスの大流行の中、バイエルン倫理委員会のメンバーであるあなたは厳しいロックダウンには副次的被害が大きすぎると批判されました。最初はそれはやや手厳しいようにも聞こえました。道徳的行為に関する指針を作るためにチャンスとリスクの比較検討を行う場合、どうすればそれは円滑に行えるのでしょうか。
それにはおそらく、実際に倫理とは何かを明確にすることから始める必要があります。つまり、それはさまざまな場面でリスクを管理するということです。そして倫理的でないと判断されたものについては、どのような代価を払ってでも原則を順守することが重要です。これは特に、応用倫理学の分野に当てはまります。応用倫理学では、人工知能、自動運転、ビジネス倫理学なども扱います。倫理学者の仕事は、リスクを比較検討し、大局的な視野を持つことです。コロナ禍ではよくあることですが、1つの側面だけを取り上げるのでは不十分です。新型コロナウイルスについては、医療的な側面が優先されています。しかし、医学だけでなく、社会科学、経済学、倫理学などのその他の科学的学問分野にも対策、配分、および副次的被害といった問題を解決し得るものは多く存在します。これは、理論的には少し非現実的に聞こえるかもしれませんが、物事は専門化した方が事態をはるかに容易に捉えることができます。
教授はInstitute for Ethics in （Artificial Intelligence（IEAI））の所長を務めておられます。そこでは医療、科学、およびエンジニアリング分野の研究者たちが、異なる領域にまたがるチームとして社会学者や倫理学者らと協力して活動しています。教授のIEAIでの研究分野は何ですか。
プロジェクトはさまざまな研究グループに分けられています。その中には、自動運転を含む人工知能、モビリティ、および安全性といったテーマに専門に取り組むグループがあります。また、AIベースの意思決定ツールを用いて臨床現場における倫理上の問題に対応する研究を行う別のグループもあります。さらに、農業、水管理、生物多様性などの観点から、AIや持続可能性に関連する幅広いトピックを調査する研究も主要な分野となっています。私たちは現在、職場環境に確実に受け入れられる形でAIを設計する方法を重点分野として研究しています。
AIに伴うリスクとは何ですか。
AIには、公開討論でも何度も強調されている多数のリスクが存在しており、私たちはさまざまな視点からそれらのリスクを検討しています。たとえば、安全性、データ保護、およびアルゴリズムのロバスト性に関連するような純粋に技術的なリスクを考慮するという視点からだけでなく、アルゴリズムの公平性、説明可能性、および透明性を重視するという視点からも検討を行います。なぜなら、多くの人々がAIをブラックボックスと考え、意思決定の方法がわからないことを懸念しているからです。また、自分たちの自主性が失われると恐れる人々もいます。ただし、どのようなリスクがあるにせよ、AIの倫理上および経済上のチャンスを見逃してはいけません。
自動運転についてより詳しくお聞かせください。倫理的な見地からは、無人運転車両の実用を許可することは理にかなっているでしょうか。
5年ほど前、私たちは既に接続型の自動運転に関する初の国際倫理委員会において、具体的なポイントを1つ明確に示しました。倫理的な観点から見たAIの「チャンス」とは、多数の事故を防止し、人々の生命を救うことです。私たちが完全に自分の力で運転するのではなく、高度に自動化されたシステムを使用して運転する場合でも、これは明らかな倫理上の利点です。
IEAIの自動運転倫理に関するプロジェクトでは、どのようなことを研究していますか。
このプロジェクトでは、自動車技術委員会と直接協力し、軌道計画システムの開発といった特定のタスクに取り組んでいます。ここでは、トラックが他の車両や自転車との間に取るべき距離の問題など、細かな決定を行うことがよくあります。そして、さまざまな調査を行うことで、正確な距離を計算できる信頼性に優れたプログラミングシステムの開発に役立てています。
2017年に、接続型の自動運転に関するドイツの倫理委員会は複数の規則を定めました。このことには、世界の国々と比べて顕著な違いはありますか。
ここ数年、世界各地でAIに関するさまざまな倫理原則が定められています。しかし、理論上の原則にあまり差異はなく、それらの80～85％は共通していると思われます。それでも、細部には相異もあります。車間距離の問題を考えてみましょう。私は、しばらく前にインドのデリーを訪れましたが、車間距離はドイツよりもはるかに短いです。これはプログラミングに影響を与える可能性があります。国境を超えると興味深いことが起こるということです。つまり、日本なら決して起きない状況が中国では稀に起こり、欧州ではかなり頻繁に起こります。そのため、世界的に統一された規則や命令が必要だと私は確信していますが、この数年間はまだそれは実現していません。
教授は研究だけでなく、教鞭もとられています。どうすれば、学生が倫理的な振る舞いを理解できるようになりますか。つまり、どうすれば、学生が倫理的なアルゴリズムを開発していくよう教育することができるのでしょうか。
これに関しては少し詳しい説明が必要です。8年前、私はビジネス倫理学科長として、経営管理学の学生たちの主要科目としてビジネス倫理学を導入しました。私の経験上、それは道徳を説教するということではなく、「ここに倫理的項目のリストがあります。そして、こうすると皆さんはそれを適用できます」と説明するということです。私は常に、倫理を実践に移すにあたり立ちはだかる困難を認識することも必要だと教えます。たとえば、経営管理学では制約やコスト圧力がこれに当たるでしょう。デジタルの問題やAIの扱い方に関する必修科目はまだありませんが、ミュンヘン工科大学の学長は自らの展望として人間中心の工学を実現したいと表明しており、技術学問分野に倫理学を導入する土台を築きました。人間中心の工学では、技術学問分野に人文科学や社会科学の一部を組み込む必要があります。私たちの目標の1つは、倫理上の問題に対する認識力を高めることにより、学生の能力を向上させることです。エンジニアやコンピュータ科学者たちは、自分の行動には倫理的側面が伴うということを意識する必要があります。
完全な自動運転車両が実用化されるのはいつになるでしょうか。また、それらの車両は高水準の道徳的判断をどこまでできるようになっているでしょうか。
現行のレベル4（運転の高度な自動化）やレベル5（完全自動化）の仕様に適合する自動運転車両に関して言えば、まだしばらく時間がかかるでしょう。ただし、私たちは既に、特定の目的に対応する極めて機能的なアプリケーションを多数持っています。そのようなシステムをどのように展開して実用化するのかという問いに答えるとしたら、これはどちらかと言うと倫理や法律上の問題であり、技術的な問題ではないと答えます。なぜなら、技術的な観点からは既に大部分の機能が実現可能であるからです。米国の法律では、ここ1～2年でいくつかの進展があり、その結果、初の無人配達車などが実際に路上を走行するようになりました。これらの進展を過小評価してはいけません。これらの多くは、残念ながらドイツ国外で起きています。また、ドイツの自動車メーカーが自動運転の研究を先送りしたのは誤りであったと思います。10年後には、大幅に自動化された車両がさらに実用化されてゆくでしょう。しかし、特にドイツでは、考え得るあらゆる不測の事態への準備が整うまではおそらく自動運転は許可されないでしょうし、各種のハードルが非常に高く設定される傾向になるでしょう。私たちはこの0か100の思考方法を捨て去る必要があります。
Governance Lab（The GovLab）、NYU Tandon School of Engineering、Global AI Ethics Consortium（GAIEC）、Center for Responsible AI @ NYU（R/AI）、およびミュンヘン工科大学（TUM）のInstitute for Ethics in Artificial Intelligence（IEAI）は協力して、『AI Ethics：Global Perspectives（AIの倫理に関するグローバルな視点）』という無料のオンライン講座を開設しました。この講座は、世界中の受講者を対象として、AI倫理に関する現在進行中の学際的な議論を広く紹介しつつ深く掘り下げています。また、AI倫理分野におけるさまざまな観点からの意見を集めることで、各団体の意識を高め、AIの使用により責任感を持つよう促すことに取り組んでいます。AI Ethics：Global Perspectives（ https://aiethicscourse.org/ )
取材先について：
Prof. Christoph Lütge
Prof. Christoph Lütge conducts research in the field of economic and business ethics. He advocates the order ethics approach, which investigates ethical action in the context of the underlying economic and social conditions of globalization. His research focuses on the role of competition and that of incentives stemming from orders and assesses the reasonableness of ethical categories. He has held the Peter Löscher Chair of Business Ethics at the Technical University of Munich since 2010.