Im ersten Teil des Vortrags möchte ich zunächst kurz das Projekt „Meaningful Human Control“ (MEHUCO) vorstellen. Es sollen die Gesamtziele des Projekts, zentrale konzeptuelle Ansätze, Forschungsfragen und Arbeiten der einzelnen Teilprojekte beleuchtet werden.
Danach möchte ich mich einer Forschungsfrage widmen, die wir derzeit im Paderborner Teilprojekt verfolgen. Dabei geht es um die Beobachtung, dass seit kurzem Konzepte verantwortungsvoller und vertrauenswürdiger KI aus dem zivilen in den militärischen Bereich wandern. Nachdem ich diese Entwicklung anhand einiger Schlaglichter beleuchtet habe, möchte ich eine Analyseperspektive anlegen, die aus der Soziologie der Kritik stammt. Die dort herausgearbeitete Bedeutung von Kritik als sozialer Praxis soll für die Analyse der ethischen Legitimation von autonomen Waffensystemen (AWS) fruchtbar gemacht werden. Ich möchte zeigen, dass es als ein nicht-intendiertes Ergebnis bestimmter Kritiken an AWS angesehen werden kann, dass in militärischen Entwicklungskontexten das Leitbild einer "vertrauenswürdigen, menschenzentrierten und verantwortungsvollen KI" an Bedeutung gewonnen hat und Konzepte wie "ethics by design" und „Ethical Legal & Social Aspects“ (ELSA) Einzug gehalten haben. Dass ein Teil der Kritik an AWS in deren Legitimationsstrategien eingeflossen ist, droht wiederum die Kraft der Forderung nach einem Verbot von AWS zu schwächen, da die Einführung ‚softer‘ Regulierungsinstrumente die Setzung von rechtlichen Regulierungen obsolet machen könnte. Institutionalisierte Ethik würde die internationale Gesetzgebung ersetzen. Angesichts dieses Szenarios möchten ich abschließend die Frage stellen, welche neuen Wege eine Kritik an AWS einschlagen könnte, um ihre Ziele zu erreichen.