人間・機械の相互作用と責任

3月に開催された「人間・機械の相互作用と責任」と題したパネルディスカッションでは、ドイツと日本から6名の研究者が登壇し、人間と機械の相互作用に関する重要な概念や「責任は誰が負うのか」、「成果の権利は誰に帰属するか」、「人間であることの意味は何か」といった問いについての議論が展開されました。

議論は、技術開発、心理学、哲学、社会科学、文学・芸術学の観点から新しい技術の開発者、提供者、利用者の権利と責任に焦点があてられました。

パネリストと参加者は、リスクと責任は人間と機械間での相互作用の文脈と状況により変わることを強調しました。例えば、学校など教育現場でソーシャルロボットやチャットボットを活用する場面と病院で手術が行われる場面とでは、データ保護の関心事や心理的ウェルビーイングなどに対するリスクが異なります。メディアにおいては、世論に意図的にしろ、そうでないにしろ、影響を与える誤情報ついて、考慮していく必要があります。社会保障や国の安全保障の分野でも、深刻な影響を及ぼす可能性があり、急速に技術が発展していく中で、サイバーセキュリティを優先課題とするなど、これらの文脈すべてで、説明責任や法的、債務責任に対して異なるアプローチが求められます。

また、芸術や文学分野ではサイエンスフィクションやサイバーパンクの作品の中で、起こりうるリスクをディストピア的な世界や未来像に投影することが多いという興味深い見識が得られています。その一方で、このような新しい技術の肯定的、もしくはユートピア的な認識は、社会にとって有益となるAIやロボットを設計していく意欲に繋がっていくでしょう。

デジタルトランスフォーメーションやロボット、AIそして、それらが及ぼす社会への影響は、ドイツ 科学・イノベーション フォーラム 東京（DWIH東京）、ドイツ日本研究所（DIJ ）の重要テーマです。このテーマや今後のイベントに関しては、DWIH東京とDIJのホームページをご覧ください。また、ニュースレター配信も各ホームページよりご登録いただけます。

• DWIH東京の人工知能に関する情報（日本語）
• DWIH東京のニュースレター（日本語）
• DIJのデジタルトランスフォーメーション分野に関する情報（日本語）
• DIJのニュースレター（日本語）
• DIJのイベントレポート（英語）

パネリスト

Dr. Celia Spoden, Senior Researcher, German Institute for Japanese Studies (MC)

Dr. Eva Buddeberg, Academic Counsel, Institute of Political Science, Faculty of Social Sciences, Goethe-University Frankfurt (panelist)

Input: AI and responsibility from a legal, philosophical and socio-political perspective
Dr. Eva Buddeberg will present the DFG network on AI and responsibility led by herself and Dr. Fruzsina Molnár-Gábor professor at Heidelberg University. The network discusses problems of attribution of actions in which AI is involved. While in terms of legal theory, the network primarily considers how these issues can be taken into account in legislation and jurisprudence, from a philosophical and socio-political perspective also arises the question of how critical societal co-responsibility can be fulfilled.

Dr. Arisa Ema, Associate Professor, Institute for Future Initiatives, The University of Tokyo / Visiting Researcher, RIKEN Center for Advanced Intelligence Project (panelist)

Input: AI Ethics and Responsibilities for Different Types of Human-Machine Interactions
How should we think about the rights and responsibilities of people when people collaborate with machines to perform tasks, such as automated driving with AI assistance and creative works using generative AI? The concept of responsibility and rights will differ when the machine (AI) performs the task mostly and the human gives final approval, and when the AI is used to assist the human. Discussion of AI and responsibility needs to be contextualized.

Dr. Friederike Eyssel, Professor, CITEC Center for Cognitive Interaction Technology, Bielefeld University (panelist)

Input: The importance of user-centered HRI
The input will discuss psycho-social challenges and consequences associated with human-robot interaction and the deployment of social robots in everyday life. The contribution will discuss the importance of a user-centered perspective, highlighting the key role of user attitudes for successful uptake.

Dr. Jiré Emine Gözen, Professor for Media- and Culturaltheory, Campus Hamburg, University of Europe for Applied Sciences (panelist)

Input: Art and literature as a method of knowledge production on the risks and potentials of AI and Human Machine Interaction
The manifold questions concerning the risks and potentials of Human Machine Interaction and AI have been reflected in art and literature for decades. In the process, social and scientific discourses are taken up and perpetuated. In their perpetuation, they inform general ideas about what is possible or problematic about these technologies. Implicitly, art and literature thus have an impact on scholarly and public discourse and should therefore be understood and considered as a form of knowledge production of their own.

Dr. Randy Gomez, Chief Scientist, Honda Research Institute (HRI)

Input: Embodied AI for a Harmonious Society
The advancement of AI and robotics have pushed the adoption of social robots at home, offices and various facilities such as hospitals and nursing homes. Although the field of social robotics has shown progress in developing activities between a robot and human, applications targeting groups and society in general are still lacking. In this forum, we will present a framework of designing social robots to maximize societal impact and share our recent activities in developing intelligent robots as mediators that support connecting people, cultivating better understanding of one another, and fostering good relationships.