Agency perception and moral values related to autonomous weapons : : an empirical study using the value sensitive design approach / / Ilse Verdiesen.

• Superior document: International Studies on Military Ethics ; Volume 7
• VerfasserIn: Verdiesen, Ilse,
• Place / Publishing House: Leiden ;, Boston : : Brill,, [2022]; ©2022
• Year of Publication: 2022
• Language: English
• Series: International studies on military ethics ; Volume 7.
• Physical Description: 1 online resource.

The deployment of Autonomous Weapons gives rise to ongoing debate in society and at the United Nations, in the context of the Convention on Certain Conventional Weapons. Yet little empirical research has been done on this topic. This volume fills that gap by offering an empirical study based on military personnel and civilians working at the Dutch Ministry of Defence. It yields insight into how Autonomous Weapons are perceived by the military and general public; and which moral values are considered important in relation to their deployment. The research approach used is the Value-Sensitive Design (VSD) method that allows for the consideration of human values throughout the design process of technology. The outcome indicates that military personnel and civilians attribute more agency (the capacity to think and plan) to an Autonomous Weapon than to a Human Operated Drone. In addition, it is clear that common ground exists between military and societal groups in their perception of the values of human dignity and anxiety. These two values arise often in the discourse, and addressing them is essential when considering the ethics of the deployment of Autonomous Weapons. The text of this volume is also offered in parallel French and German translation.

Table of Contents

Half Title -- Series Information -- Title Page -- Copyright Page -- Contents -- Preface -- List of Tables -- Agency Perception and Moral Values Related to Autonomous Weapons -- Summary -- Chapter 1 Introduction -- 1.1 Research Problem -- 1.1.1 Problem Exploration -- 1.1.2 Knowledge Gap -- 1.1.3 Problem Statement -- 1.1.4 Scope -- 1.1.5. Research Question and Sub Questions -- 1.2 Research Approach -- 1.3 Relevance -- 1.3.1 Scientific Relevance -- 1.3.2 Societal Relevance -- 1.3.3 Embedding in sepam Curriculum and ia Track -- 1.4 Structure -- Chapter 2 Literature Review -- 2.1 Autonomous Weapons -- 2.1.1 Definition -- 2.1.2 Classification of Autonomous Weapons -- 2.2 Values -- 2.2.1 Definition -- 2.2.2 Universal Values -- 2.2.3 Values Related to Autonomous Weapons -- 2.2.4 Values Hierarchy -- 2.3 Agency -- 2.3.1 Agency in Cognitive Psychology -- 2.3.2 Agency in Artificial Intelligence -- 2.3.3. Agency in Moral Philosophy -- Chapter 3 Method -- 3.1 Methodology -- 3.1.1 Literature Review -- 3.1.2 Online Value Survey -- 3.1.3 Expert Interviews -- 3.1.4 Coding Process -- 3.1.5 Randomized Controlled Experiments -- 3.2 Hypotheses -- 3.3 Research Design -- 3.4 Operationalisation -- 3.4.1 Scenarios -- 3.4.2. Agency Construct -- 3.4.3 Dependent Variables -- 3.4.4 Attention Check -- 3.4.5 Demographic Variables -- 3.5 Analytical Approach -- 3.5.1 Pre-process Data -- 3.5.2 Reliability Analysis -- 3.5.3 Principal Component Analysis (pca) -- 3.5.4 Correlation Analysis -- 3.5.5 Manipulation Check on Agency -- 3.5.6 Dependent Variables Analysis -- 3.6 Pre-registration -- 3.7 Sample -- 3.8 Methodological Issues -- 3.8.1 Coding Interviews -- 3.8.2 Randomized Controlled Experiments -- 3.8.3 Amazon Mechanical Turk -- 3.8.4 Snowball Distribution Final Survey -- Chapter 4 Results -- 4.1 Value Survey -- 4.1.1 Online survey -- 4.1.2 Interviews.

4.1.3 Conclusion Value Survey -- 4.2 Pilot Study 1 -- 4.2.1 Reliability Analysis -- 4.2.2 Principal Component Analysis (pca) -- 4.2.3 Correlation Analysis -- 4.2.4 Manipulation Check on Agency -- 4.2.5 Dependent Variables Analysis -- 4.2.5.1 Support Variable -- 4.2.5.2 Trust Variable -- 4.2.5.3 Blame and Harm Variables -- 4.2.6 Conclusion Pilot Study 1 -- 4.3 Pilot Study 2 -- 4.3.1 Reliability Analysis -- 4.3.2 Principal Component Analysis (pca) -- 4.3.3 Correlation Analysis -- 4.3.4 Manipulation Check on Agency -- 4.3.5 Dependent Variables Analysis -- 4.3.5.1 Blame -- 4.3.5.2 Commander Blame -- 4.3.5.3 Trust -- 4.3.5.4 Commander Trust -- 4.3.5.5 Harm -- 4.3.5.6 Commander Harm -- 4.3.5.7 Human Dignity -- 4.3.5.8 Confidence -- 4.3.5.9 Expectations -- 4.3.5.10 Support -- 4.3.5.11 Fairness -- 4.3.5.12 Uneasy -- 4.3.6 Conclusion Pilot Study 2 -- 4.4 Final Study - Military Sample -- 4.4.1 Reliability Analysis -- 4.4.2 Principal Component Analysis (pca) -- 4.4.3 Correlation Analysis Agency Construct -- 4.4.4 Manipulation Check on Agency -- 4.4.5 Dependent Variables Analysis -- 4.4.5.1 Trust -- 4.4.5.2 Human Dignity -- 4.4.5.3 Confidence -- 4.4.5.4 Expectations -- 4.4.5.5 Support -- 4.4.5.6 Fairness -- 4.4.5.7 Anxiety -- 4.4.6 Conclusions Final Study -- Chapter 5 Design of Moral Machine for Autonomous Weapons -- 5.1 Moral Machine for Autonomous Vehicles -- 5.2 Moral Machine for Autonomous Weapons -- 5.3 Scenarios -- 5.3.1 Variables for Scenarios -- 5.3.1.1 Type of Weapon -- 5.3.1.2 Location -- 5.3.1.3 Character -- 5.3.1.4 Number of Characters -- 5.3.1.5 Outcome -- 5.3.1.6 Mission -- 5.3.2 Example Scenarios -- 5.4 Implementation -- Chapter 6 Conclusion and Discussion -- 6.1 Conclusion -- 6.1.1 Agency Construct -- 6.1.2 Central Hypothesis Agency Perception -- 6.1.3 Exploration of Dependent Variables -- 6.1.3.1 Trust, Confidence and Support.

6.1.3.2 Human Dignity -- 6.1.3.3 Expectations and Fairness -- 6.1.3.4 Anxiety -- 6.2 Discussion -- 6.2.1 Scientific Implications -- 6.2.2 Societal Implications -- 6.3 Limitations -- 6.4 Recommendations for Further Research -- Appendix A: Online Value Questionnaire -- Appendix B: Questionnaire Final Study -- Appendix C: Scenarios Pilot Study 1 -- Appendix D: Scenarios Pilot Study 2 -- Appendix E: Scenarios Final Study -- Appendix F: Transcriptions Interviews -- Appendix G: Coding Memos -- Appendix H: Results Coding Process -- References -- Auffassungen und moralische Wertvorstellungen innerhalb der Streitkräfte und Zivilbevölkerung in Bezug auf autonome Waffensysteme -- Kurzfassung -- Vorwort -- ­KAPITEL 1 Einführung -- 1.1 Forschungsproblem -- 1.1.1 Problemerforschung -- 1.1.2 Wissenslücke -- 1.1.3 Problemstellung -- 1.1.4 Umfang -- 1.1.5 Forschungsfrage und daraus resultierenden weiteren Fragen -- 1.2 Forschungsmethode -- 1.3 Relevanz -- 1.3.1 Wissenschaftliche Relevanz -- 1.3.2 Gesellschaftliche Relevanz -- 1.3.3 Einbettung in das sepam- Kurrikulum und den ia-Kurs -- 1.4 Struktur -- ­KAPITEL 2 Literaturübersicht -- 2.1 Autonome Waffensysteme -- 2.1.1 Definition -- 2.1.2 Klassifizierung der autonomen Waffensysteme -- 2.2 Werte -- 2.2.1 Definition -- 2.2.2 Allgemeingültige Werte -- 2.2.3 Werte mit Bezug auf autonome Waffensysteme -- 2.2.4 Werte-Hierarchie -- 2.3 Agency -- 2.3.1 Agency in der Kognitionspsychologie -- 2.3.2 Agency in der künstlichen Intelligenz -- 2.3.3 Agency in der Moralphilosophie -- ­KAPITEL 3 Methode -- 3.1 Methodologie -- 3.1.1 Fachliteraturübersicht -- 3.1.2 Online-Wertumfrage -- 3.1.3 Interviews mit Experten -- 3.1.4 Codierungsverfahren -- 3.1.5 Randomisierte kontrollierte Experimente -- 3.2 Hypothesen -- 3.3 Forschungsdesign -- 3.4 Operationalisierung -- 3.4.1 Szenarien -- 3.4.2 Agency-Konstrukt -- 3.4.3 Abhängige Variablen.

3.4.4 Aufmerksamkeitstest -- 3.4.5 Demografische Variablen -- 3.5 Analytische Methode -- 3.5.1 Daten vor der Verarbeitung -- 3.5.2 Reliabilitätsanalyse -- 3.5.3 Hauptkomponentenanalyse (pca) -- 3.5.4 Korrelationsanalyse -- 3.5.5 Manipulationsprüfung des Agency -- 3.5.6 Analyse der abhängigen Variablen -- 3.6 Voranmeldung -- 3.7 Stichprobe -- 3.8 Methodologische Fragen -- 3.8.1 Interviews zur Codierung -- 3.8.2 Randomisierte kontrollierte Experimente -- 3.8.3 Amazon Mechanical Turk -- 3.8.4 Die abschließende Untersuchung nach dem Schneeballverfahren -- ­KAPITEL 4 Ergebnisse -- 4.1 Werteumfrage -- 4.1.1 Online-Umfrage -- 4.1.2 Interviews -- 4.1.3 Schlussfolgerung der Umfrage -- 4.2 Vorstudie 1 -- 4.2.1 Reliabilitätsanalyse -- 4.2.2 Hauptkomponentenanalyse (pca) -- 4.2.3 Korrelationsanalyse -- 4.2.4 Manipulationsprüfung der Agenten -- 4.2.5 Analyse der abhängigen Variablen -- 4.2.5.1 Unterstützungsvariable -- 4.2.5.2 Vertrauensvariable -- 4.2.5.3 Schuld- und Schadenvariablen -- 4.2.6 Schlussfolgerung der Vorstudie 1 -- 4.3 Vorstudie 2 -- 4.3.1 Reliabilitätsanalyse -- 4.3.2 Hauptkomponentenanalyse (pca) -- 4.3.3 Korrelationsanalyse -- 4.3.4 Manipulationsprüfung der Agenten -- 4.3.5 Analyse der abhängigen Variablen -- 4.3.5.1 Schuld -- 4.3.5.2 Kommandantenschuld -- 4.3.5.3 Vertrauen -- 4.3.5.4 Kommandantenvertrauen -- 4.3.5.5 Schaden -- 4.3.5.6 Kommandantenschaden -- 4.3.5.7 Menschenwürde -- 4.3.5.8 Zuversicht -- 4.3.5.9 Erwartungen -- 4.3.5.10 Unterstützung -- 4.3.5.11 Fairness -- 4.3.5.12 Unbehagen -- 4.3.6 Schlussfolgerung der Vorstudie 2 -- 4.4 Abschließende Untersuchung - militärische Stichprobe -- 4.4.1 Reliabilitätsanalyse -- 4.4.2 Hauptkomponentenanalyse (pca) -- 4.4.3 Korrelationsanalyse des Agency-Konstrukts -- 4.4.4 Manipulationsprüfung des Agenten -- 4.4.5 Analyse der abhängigen Variablen -- 4.4.5.1 Vertrauen -- 4.4.5.2 Menschenwürde.

4.4.5.3 Zuversicht -- 4.4.5.4 Erwartungen -- 4.4.5.5 Unterstützung -- 4.4.5.6 Fairness -- 4.4.5.7 Besorgnis -- 4.4.6 Schlussfolgerung der abschließenden Untersuchung -- ­KAPITEL 5 Design der Moral Machine für Autonome Waffensysteme -- 5.1 Moral Machine für autonome Fahrzeuge -- 5.2 Moral Machine für autonome Waffensysteme -- 5.3 Szenarien -- 5.3.1 Variablen für Szenarien -- 5.3.1.1 Waffentyp -- 5.3.1.2 Lage -- 5.3.1.3 Person -- 5.3.1.4 Anzahl Personen -- 5.3.1.5 Resultat -- 5.3.1.6 Einsatz -- 5.3.2 Beispielszenarien -- 5.4 Implementierung -- ­KAPITEL 6 Schlussfolgerung und Diskussion -- 6.1 Schlussfolgerung -- 6.1.1 Agency-Konstrukt -- 6.1.2 Zentrale Hypothese Auffassung in Bezug auf Waffensysteme -- 6.1.3 Untersuchung der abhängigen Variablen -- 6.1.3.1 Vertrauen, Zuversicht und Unterstützung -- 6.1.3.2 Menschenwürde -- 6.1.3.3 Erwartungen und Fairness -- 6.1.3.4 Besorgnis -- 6.2 Diskussion -- 6.2.1 Wissenschaftliche Folgerungen -- 6.2.2 Gesellschaftliche Folgerungen -- 6.3 Einschränkungen -- 6.4 Empfehlungen für weitere Forschungsarbeiten -- Anhang A: Online-Fragebogen zu den Werten -- Anhang B: Fragebogen für die abschließende Untersuchung -- Anhang C: Szenarien für Vorstudie 1 -- Anhang D: Szenarien der Vorstudie 2 -- Anhang E: Szenarien für die abschließende Untersuchung -- Anhang F: Transkriptionen der Interviews -- Anhang G: Codierungsnotizen -- Anhang H: Ergebnisse des Codierungsprozesses -- Quellenverzeichnis -- La perception de l'agentivite et les valeurs morales relatives aux armes autonomes -- Sommaire -- Preface -- ­CHAPITRE 1 Introduction -- 1.1 Problématique de recherche -- 1.1.1 Analyse de la problématique -- 1.1.2 Vide dans les connaissances -- 1.1.3 Enoncé de la problématique -- 1.1.4 Champ de recherche -- 1.1.5 Question posée par cette étude, et questions secondaires -- 1.2 Approche de recherche -- 1.3 Pertinence / applicabilité.

1.3.1 Pertinence scientifique.