ELSA zieht in den Krieg – Zur Rolle der Kritik an AWS für deren Legitimationsstrategien
07.10, 12:00–12:30 (Europe/Berlin), Ostasien

Im Vortrag soll zunächst das Forschungsprojekt "Meaningful Human Control" (MEHUCO) vorgestellt werden. Danach soll den Fragen nachgegangen werden, welche Rolle eine bestimmte Kritik an Autonomen Waffensystemen für den aktuellen Hype um Konzepte einer verantwortungsvollen und vertrauenswürdigen KI im militärischen Kontext gespielt hat und wie sich eine Kritik dementsprechend neu ausrichten könnte.


Im ersten Teil des Vortrags möchte ich zunächst kurz das Projekt „Meaningful Human Control“ (MEHUCO) vorstellen. Es sollen die Gesamtziele des Projekts, zentrale konzeptuelle Ansätze, Forschungsfragen und Arbeiten der einzelnen Teilprojekte beleuchtet werden.
Danach möchte ich mich einer Forschungsfrage widmen, die wir derzeit im Paderborner Teilprojekt verfolgen. Dabei geht es um die Beobachtung, dass seit kurzem Konzepte verantwortungsvoller und vertrauenswürdiger KI aus dem zivilen in den militärischen Bereich wandern. Nachdem ich diese Entwicklung anhand einiger Schlaglichter beleuchtet habe, möchte ich eine Analyseperspektive anlegen, die aus der Soziologie der Kritik stammt. Die dort herausgearbeitete Bedeutung von Kritik als sozialer Praxis soll für die Analyse der ethischen Legitimation von autonomen Waffensystemen (AWS) fruchtbar gemacht werden. Ich möchte zeigen, dass es als ein nicht-intendiertes Ergebnis bestimmter Kritiken an AWS angesehen werden kann, dass in militärischen Entwicklungskontexten das Leitbild einer "vertrauenswürdigen, menschenzentrierten und verantwortungsvollen KI" an Bedeutung gewonnen hat und Konzepte wie "ethics by design" und „Ethical Legal & Social Aspects“ (ELSA) Einzug gehalten haben. Dass ein Teil der Kritik an AWS in deren Legitimationsstrategien eingeflossen ist, droht wiederum die Kraft der Forderung nach einem Verbot von AWS zu schwächen, da die Einführung ‚softer‘ Regulierungsinstrumente die Setzung von rechtlichen Regulierungen obsolet machen könnte. Institutionalisierte Ethik würde die internationale Gesetzgebung ersetzen. Angesichts dieses Szenarios möchten ich abschließend die Frage stellen, welche neuen Wege eine Kritik an AWS einschlagen könnte, um ihre Ziele zu erreichen.

Dr. Jens Hälterlein ist Wissenschafts- und Technikforscher und beschäftigt sich seit mehreren Jahren mit den gesellschaftlichen Dimensionen von digitalen Sicherheitstechnologien. Seit Mai 2022 arbeitet er im Teilprojekt “Schwarmtechnologien. Kontrolle und Autonomie in komplexen Waffensystemen” des Forschungsverbunds "Meaningful Human Control. Autonome Waffensysteme zwischen Regulation und Reflexion” (MEHUCO) an der Universität Paderborn.