当センターHARTWIG Tilman助教と東京大学国際高等研究所カブリ数物連携宇宙研究機構(Kavli IPMU)、金沢大学による論文がＡＩ倫理の国際的学術誌であるAI and Ethicsのオンライン版に2022年9月1日付で公開され、プレスリリースを行いました。
理学系研究科の公開サイトはこちらです。

「AI のELSIセグメント」の提案

東京大学国際高等研究所カブリ数物連携宇宙研究機構(Kavli IPMU)
金沢大学　人間社会研究域
東京大学大学院理学系研究科附属知の物理学研究センター

1.発表概要

　東京大学国際高等研究所カブリ数物連携宇宙研究機構（Kavli IPMU）の横山広美（よこやま ひろみ） 教授を中心とする東京大学、金沢大学のメンバーからなる研究グループは、先端技術に対して人々が感じる倫理的・法的・社会的課題 （Ethical, Legal and Social Issues：ELSI） のレベルを、数値で可視化するプロジェクトを進めてきました。このたび研究グループは、倫理的、法的、社会的課題のレベルを3項目の測定を用いて、意見の傾向が異なる人々を４つのグループ（楽観的な人々、否定的な人々に加えて、法律に問題があると思う人々、法律に問題がないと考える人々）に分けることが適切であると結論づけました。これを研究グループは「AIのELSIセグメント」と呼んでいます。グループは今後、AI技術のELSIに関する議論や対話に、このELSIセグメントが有用であると考えています。
本成果はAI倫理の国際的学術誌であるAI and Ethicsのオンライン版に2022年9月1日付で公開されました。

２.発表内容

　研究グループはこれまでに、AI技術のELSIレベルを測定するのに、「オクタゴン尺度」（注1）を提案しました。オクタゴン尺度は世界中のAIガイドラインから抽出された8つの共通項目をもとに尺度化していることから、AIに特化したELSIを測定するのに優れていました。一方で、8項目という比較的多い項目を使うこと、AIに特化しているので他の先端技術に必ずしも汎用性があるとは言えないことから、グループは他の尺度の研究を行ってきました。そこで、より汎用性の高いELSIの倫理的（E）、法的（L）、社会的（S）の3つの領域を全体で12項目の質問にし、それをさらに機械学習を用いた決定木分析（decision tree）によって3つに絞り込み、AIのELSIの議論にはこの3つ（倫理的、法的、伝統的について問う）を使うことを提案しました（注2）。
　本研究では、絞り込んだ3つの項目を用いて、これまでの研究で用いてきた４つのジレンマシナリオ（AI歌手、AIショッピング、AI兵器、AI犯罪者追跡）に対する、日本、アメリカ、ドイツの人々の問題意識を測定しました。日本は2021年6月2日から8日にかけて1075人（男性514人、女性561人）、アメリカは2021年6月2日から10日かけて1095名（男性537人、女性558人）、ドイツは2021年6月2日から10日にかけて1086人（男性539人、女性546人）、いずれも20から69歳までの男女から調査会社を通じてデータを取得しました。
　全てのデータを用いた結果、意見の傾向が異なる４つのグループに分けることがよいとわかったことが、今回の主な成果です（図1）。これを研究グループは「AIのELSIセグメント」と呼んでいます。研究グループの一方井准教授は「今後、AIの研究者や開発者がELSIセグメントを使うことで、社会の人々が抱く研究や開発技術への懸念が可視化される」と述べています。
　その他に、４つのシナリオで少しずつの違いはありましたが、全体として、年齢が高い人ほど、AIのELSIの問題への懸念に統計的に有意な関係があることがわかりました。また、AIの理解度の高い人は、法的問題に懸念を持つことがわかりました。シナリオ別では、AI歌手について、ドイツとアメリカは倫理的かつ社会的問題への懸念がありました。AIショッピングでは、ドイツは倫理的な懸念を持ち、日本は法的な懸念を持っていました。AI兵器では、日本とドイツが倫理的な懸念を持ち、さらに日本は社会的、法的な懸念を持っていました。AI犯罪者追跡では、アメリカが倫理的、社会的、法的な懸念を抱いていることがわかりました。
　著者の一方井准教授は、「AIのELSIレベルの認識には国による違いがあることが分かった。特にAIに関する法律や政策に関する問題についての議論が重要になる。」と述べています。
　Hartwig助教は、「回答者の意見を4つのグループに分けることができたことがとても嬉しいです。そして最も特徴的な結果は、人のAIに対する法的な課題でした。これは調査した3カ国のどれにもはっきりしており、今後は、AIと関係する法律や政策についての対話が必要だと思います。」と述べています。

図： 倫理的、法的、伝統の３軸にプロットした日米独、４つのシナリオの回答。セグメントによって、楽観的なグループ（水色）、否定的なグループ（オレンジ）に加えて、法律を問題視するグループ（紺）、法律を問題視しないグループ（えんじ色）に分けることができた。（クレジット：Ikkatai et al./Kavli IPMU）

３.用語解説　

（注1）「オクタゴン尺度」を提案した論文のプレス発表
https://www.ipmu.jp/ja/20220111-OctagonMeasurement
（注2）ELSIの12項目を3つに絞り込んだ決定木解析を行った論文
Hartwig, T., Ikkatai, Y., Takanashi, N. et al. Artificial intelligence ELSI score for science and technology: a comparison between Japan and the US. AI & Soc (2022).
https://doi.org/10.1007/s00146-021-01323-9

４.発表雑誌

雑誌名: AI and Ethics
論文タイトル: Segmentation of ethics, legal, and social issues (ELSI) related to AI in Japan, the United States, and Germany
著者: Yuko Ikkatai(1), Tilman Hartwig(2, 3), Naohiro Takanashi(4) ,Hiromi M. Yokoyama(3)
著者所属:
(1)Faculty of Human Science, Institute of Human and Social Sciences, Kanazawa University
(2)Institute for Physics of Intelligence, The University of Tokyo,
(3)Kavli Institute for the Physics and Mathematics of the Universe (Kavli-IPMU), The University of Tokyo
DOI：https://doi.org/10.1007/s43681-022-00207-y（2022年9月1日発行）
論文 open access（AI and Ethicsのページ）https://link.springer.com/article/10.1007/s43681-022-00207-y

５.問い合わせ先

（研究内容について）
横山広美 （よこやま ひろみ）
東京大学 カブリ数物連携宇宙研究機構 教授
Email: hiromi.yokoyama _at_ ipmu.jp
（報道に関する連絡先）
東京大学国際高等研究所カブリ数物連携宇宙研究機構 広報担当 千葉 光史
E-mail：press_at_ipmu.jp
TEL: 04-7136-5977 / 080-4056-2930
* at_を@に変更してください。

⬅︎知の物理学研究センターTop page