Laut neuen Konzept-Papieren der Bundeswehr muss ein Mensch nicht mehr an jedem einzelnen Schritt eines Waffeneinsatzes beteiligt sein. Das Verteidigungsministerium bestätigt auf Anfrage von CORRECTIV jetzt, dass Waffensysteme unter bestimmten Umständen selbstständig agieren können.
„Die Entscheidung über die Anwendung militärischer Gewalt verbleibt beim Menschen“, schreibt eine Sprecherin dazu. Aber: Es hänge vom „Einzelfall ab, inwieweit KI-gestützte teilautonome Funktionen eines Waffensystems“ in bewaffneten Konflikten zur Anwendung gelangen können.
Als möglichen Anwendungsfall nennt das Ministerium etwa ein Schiff, dessen Abwehrsystem nach menschlicher Freigabe anfliegende Raketen, Drohnen oder Angriffsboote selbstständig bekämpft. Brisanter ist ein zweites Beispiel: Auch „Unterdrückungsfeuer gegen feindliche Stellungen“ zur Rettung isolierter Soldaten könne demnach ohne weitere menschliche Interaktion erfolgen.
Bitte nehmen Sie sich einen Moment Zeit.
Nachrichten und Recherchen sind unerlässlich, damit Sie sich eine Meinung bilden können. Aber die derzeitigen Bedrohungen der freien Presse und der Medienlandschaft sind alarmierend.
Wir fordern die Bundesregierung auf, Pressefreiheit und die Medienvielfalt in Deutschland umfangreich zu schützen. Machen Sie mit.
Wo genau die Grenze verläuft – also welche Entscheidungen innerhalb der sogenannten Kill Chain, also der einzelnen Schritte eines militärischen Angriffs, zwingend ein Mensch treffen muss –, lässt die Sprecherin der Behörde auf CORRECTIV-Anfrage offen. Pauschal könne man zur „konkreten Bedeutung menschlicher Kontrolle“ nichts sagen. Genau das ist jedoch eine der zentralen Fragen der zukünftigen Kriegsführung.
Die sogenannte Kill Chain beschreibt die Schritte eines militärischen Angriffs. In der Regel sind das: Ziel finden, fixieren, verfolgen, zur Bekämpfung auswählen, angreifen, auswerten.
Die Kill Chain lässt sich durch den Einsatz von Künstlicher Intelligenz drastisch komprimieren. Entscheidungen fallen schneller, Prozesse werden automatisiert. CORRECTIV berichtete im April über deutsche Firmen, die diesen Wandel mit antreiben.
Bei jüngsten militärischen Angriffen wie etwa Raketen der USA auf den Iran, oder auch Israels auf Gaza, sind Menschen teils nur noch an einem Teil der Kette involviert: dem Angriffsbefehl. Die vorherige Zielauswahl und der nachherige Angriff verlaufen automatisiert.
Ein Modell auch für künftige deutsche Waffeneinsätze? Formulierungen in der neuen KI-Konzeption der Bundeswehr und kürzliche Einlassungen bei der UN-Waffen-Konvention in Genf zeigen zumindest: „Menschliche Kontrolle“ wird jetzt weiter gefasst als vorher.
Neues KI-Regelwerk: Waffe kann in weiten Teilen autonom agieren, aber formal trotzdem unter „menschlicher Kontrolle“ stehen
Noch im Jahr 2020 äußerte sich die Bundesregierung in der Antwort auf eine Kleine Anfrage der Linken-Fraktion (PDF) recht klar: „Der Einsatz als solcher mit seinen Grenzen und Auflagen muss weiterhin von einem Menschen entschieden, kontrolliert und verantwortet werden“, schrieb sie. „Das bedeutet insbesondere, dass die Entscheidung über und die Verantwortung für den Einsatz tödlicher Gewalt beim Menschen verbleiben muss.“
Entscheidung, Kontrolle und Verantwortung war hierbei also eng an den Menschen gekoppelt. Die neue KI-Konzeption der Bundeswehr setzt einen anderen Akzent (PDF).
Zunächst heißt es dort, Deutschland habe sich verpflichtet, für „kontextangemessenes menschliches Urteilsvermögen und kontextangemessene Kontrolle“ beim Waffeneinsatz zu sorgen.
Die relevanten internationalen Begrifflichkeiten zum Thema sind englisch formuliert: Lange sprach man von „human-in-the-loop“, später dann von „meaningful human control“. Die neue in Kreisen gebräuchliche Formulierung ist „context-appropriate human judgement and control“.
Dann schreibt die Bundeswehr: „Menschliche Kontrolle ist dabei nicht gleichzusetzen mit menschlicher Interaktion.“
Nicht mehr jeder Waffeneinsatz erfordert in den Augen der Bundeswehr also menschliches Handeln. Anders gesagt: Waffensysteme können selbstständig agieren, solange ein Mensch noch irgendwo in der Kette beteiligt ist. Wo genau, bleibt weiterhin offen.
Deutschland intervenierte bei UN-Verhandlungen in Genf: Permanente direkte Kontrolle eines Menschen nicht nötig
UN-Entsandte debattierten Anfang September in Genf über autonome Waffen. Bei der Waffen-Konvention einigten sich 128 Staaten auf eine gemeinsame Definition. Es ging auch darum, wie menschliche Kontrolle künftig ausgestaltet werden sollte und wer die Verantwortung für den Einsatz trage.
Bei den Verhandlungen sperrten sich die USA, Russland und Israel gegen bestimmte Formulierungen, wie etwa die Zeit berichtete. Die US-Regierung drängte dabei unter anderem auf mehr Spielraum und Fokus auf ein menschliches „Urteilsvermögen“.
CORRECTIV-Recherchen zeigen jetzt, dass auch Deutschland bei einer Formulierung intervenierte. Es ging dabei um tödliche autonome Waffen und den menschlichen Einfluss.
Eine deutsche Abgesandte argumentierte am 1. September bei einer der Sitzungen zum Papier, dass das Humanitäre Völkerrecht derzeit keine „ständige unmittelbare menschliche Kontrolle“ verlange. Deshalb sollte diese Formulierung gestrichen werden.
Es reiche, wenn sichergestellt wäre, dass ein Mensch ausreichend „beurteilen“ könne, ob ein Einsatz und die Auswirkung autonomer Waffen beim jeweiligen Einsatz mit dem Völkerrecht vereinbar wäre. Das Transkript ist öffentlich nachlesbar.
„Möglicherweise könnte (…) der letzte Teil des vorgeschlagenen Satzes noch etwas angepasst werden. Derzeit lautet er:
‘… und sie müssen während des gesamten Betriebs des Systems weiterhin über die Fähigkeit verfügen, dieser Beurteilung Geltung zu verschaffen.’
Unserer Auffassung nach könnte der letzte Teil – ‘während des gesamten Betriebs des Systems’ – so verstanden werden, dass damit eine ständige unmittelbare menschliche Kontrolle oder eine ständige unmittelbare menschliche Überwachung während des gesamten Einsatzes des Waffensystems verlangt wird. Damit könnte er als Widerspruch zum vorhergehenden Satz gelesen werden.
Wie wir bereits zuvor betont haben – und wie auch vorherige Redner heute hervorgehoben haben –, wird dies vom humanitären Völkerrecht nicht verlangt.
Eine Möglichkeit wäre daher, den Satz zu verkürzen, sodass er lautet:
‘Unabhängig davon, wie Kontrolle ausgeübt wird, müssen Menschen über die erforderliche Beurteilungsfähigkeit verfügen, um festzustellen, dass die Auswirkungen des Einsatzes von Lethal Autonomous Weapon Systems (LAWS) unter den jeweiligen Einsatzbedingungen mit dem humanitären Völkerrecht vereinbar sein werden, und sie müssen weiterhin über die Fähigkeit verfügen, dieser Beurteilung Geltung zu verschaffen.’
– Deutsche UN-Entsandte bei Verhandlungen um Formulierungen tödlicher autonomer Waffen am 1. September 2026 in Genf (LINK)
Dass die Bundeswehr einen menschlichen Einfluss beim Waffeneinsatz kontextabhängig definieren will, sei grundsätzlich sinnvoll, sagt die Expertin Anja Dahlmann vom Institut für Friedensforschung und Sicherheitspolitik an der Universität Hamburg.
Sie besorgt jedoch, dass dabei viel Interpretationsspielraum bleibe. „Je weiter die Entscheidung zum Angriff und dieser selbst zeitlich und auch räumlich entfernt voneinander sind, desto schwächer wird diese Verbindung“, sagt Dahlmann.
Traditionell lag in Deutschland die letzte Entscheidung eines Menschen näher am tatsächlichen Effekt, also des letztlichen Waffeneinsatzes. „Der Knackpunkt ist daher tatsächlich, wann und wo genau der Mensch künftig in der Kill Chain involviert sein soll.“ Und: „Hat der Mensch die nötigen Informationen und die Einflussmöglichkeiten, um rechtlich belastbare Entscheidungen zu treffen?“
Trotz der neuen Papiere von Bundeswehr und UN-Definition brauche es laut der Expertin noch mehr konzeptionelle Arbeit: „Das reicht aus meiner Sicht nicht, um da jetzt eine ganz klare Rechtsanalyse darauf aufbauen zu können.“ Im November soll es in Genf ein weiteres UN-Treffen geben, bei dem es auch um die Ausgestaltung möglicher konkreter Gesetze gehen soll.
Die aktuellen internationalen Formulierungen hält Dahlmann für eine Kompromisslösung. Den Begriff „Urteilsvermögen“ habe die USA eingebracht, die anderen Länder und Deutschland würden dem nun eben folgen.
Mehr Autonomie für Waffensysteme: Rüstungsindustrie drängte auf Lockerungen – Expertin spricht von Blackbox
Auch die deutsche Rüstungsindustrie fordert mehr Automation bei Waffensystemen. Im September 2025 veröffentlichte etwa der Arbeitskreis „KI & Verteidigung“ ein Impulspapier, unterstützt wurde dieses von den Verbänden BDSV, BDI, BDLI und Bitkom. Die Autoren kamen unter anderem von den Waffenproduzenten Hensoldt, Airbus Defence & Space, Rheinmetall und Helsing.
Das Papier argumentiert, dass Automation mit dem Mensch außerhalb des „loops“ verantwortbar sein kann, etwa wenn menschliche Reaktionszeiten zu langsam wären oder Datenfülle zu groß. CORRECTIV fragte beim Verteidigungsministerium, ob es dazu Absprachen gab. Eine Sprecherin verneinte. Das Papier sei aber „zur Kenntnis“ genommen worden.
CORRECTIV berichtete mehrfach über KI-gestützte Kampfdrohnen, deren Einsatz von der Bundesregierung lange kategorisch ausgeschlossen wurde. In diesem Jahr wurden sie jedoch erstmals für die Bundeswehr bestellt. Die deutschen Firmen Helsing, Stark und Rheinmetall sollen die Brigade in Litauen ab 2027 mit den Drohnen beliefern.
In einem Hintergrundgespräch mit CORRECTIV im Januar räumte einer der Entwickler solcher Systeme ein, dass diese vom Start bis zum Angriff prinzipiell völlig autonom agieren könnten.
Laut Expertin Dahlmann ist es ein Problem, dass weder für die breite Öffentlichkeit noch für die Forschung nachvollziehbar ist, wie KI-Systeme für Waffen entwickelt werden und worauf sie basieren. Sie spricht von einer Blackbox. Generative KI-Systeme seien zudem schon bei rein zivilen Anwendungen fehlerbehaftet.
In der jüngeren Vergangenheit führte der Einsatz von KI-Systemen für militärische Zwecke mehrfach zu Problemen. Offen ist bis heute etwa, welchen Anteil KI beim fatalen US-amerikanischen Tomahawk-Angriff auf eine Mädchenschule im iranischen Minab hatte. Offenbar waren tausende Angriffe mithilfe des Systems „Maven“ von Palantir entschieden worden, das teils auf veraltetes Kartenmaterial zurückgriff.
Erst am vergangenen Wochenende wurde durch einen CNN-Bericht bekannt, dass das US-Militär beinahe ein chinesisches Schiff gestürmt hatte, auf dem es Komponenten für ein Nuklearwaffenprogramm vermutete. Der Einsatz wurde in letzter Sekunde abgeblasen, als bekannt wurde, dass die Information auf einem KI-generierten Geheimdienstdossier basierte und erfunden war.
