Verantwortung als Designprinzip

In einem Future Combat Air System (FCAS) sind bemannte Jets neuester Generation Elemente eines komplexen und umfassend vernetzten „System of Systems“. „Remote Carrier“ schützen als „Loyal Wingmen“ die Pilotinnen und Piloten und begleiten sie in Kampfmissionen. Offene Systemarchitekturen erlauben, auch bestehende Plattformen zu integrieren. War es bisher notwendig, die Lufthoheit zu erlangen, entscheidet im digitalen Zeitalter die Entscheidungshoheit über Erfolg oder Misserfolg einer Mission. Aber wie bleiben wir solchen Technologien gewachsen? Wie gewährleisten wir ihre verantwortbare Nutzung? Die „FCAS-Arbeitsgemeinschaft Technikverantwortung“ sucht nach Antworten. Können wir bei FCAS zeigen, dass digitale Technologien verantwortbar bleiben und die ethischen und rechtlichen Herausforderungen meistern, ist auch für ihre zivile Nutzung viel gewonnen. Aber auch die Frage gesellschaftlicher Akzeptanz ist wichtig.

Mensch im Fokus

Durch die bemannte Komponente ist menschliches Entscheiden im Zentrum von FCAS fest verankert, ganz im Sinne der Militärischen Luftfahrtstrategie 2016: „Ein Waffeneinsatz [erfolgt] ausschließlich unter Kontrolle des Menschen.“

Aus der langjährigen Zusammenarbeit von Industrie und Forschung bei der Entwicklung technologischer Grundlagen für ein FCAS entstand der Gedanke, die Operationalisierung ethischer und rechtlicher Prinzipien durch entsprechendes informations- und ingenieurwissenschaftliches Design voranzutreiben.

Entstanden ist ein Format, welches systematisch die Integration grundlegender ethischer und rechtlicher Prinzipien bei der Forschung und Entwicklung eines FCAS sicherstellen sowie technisch umsetzen möchte. Dazu kann die avisierte Gesamtarchitektur der „Air Combat Cloud“ eines FCAS beitragen, indem sie die Komplexität künftiger Missionen für die Einsatzverantwortlichen reduziert und die menschliche Entscheidungsfindung erleichtert.

Technologie ist aber nur ein Aspekt. An der Arbeitsgemeinschaft beteiligen sich wichtige Stakeholder aus den Ministerien, den Behörden und der Bundeswehr. Naturgemäß besitzt die deutsche Informations- und Ingenieurwissenschaft, vertreten durch Universitäten und Forschungsinstitutionen wie Fraunhofer, eine bedeutende Rolle. Die deutsche Industrie ist durch den nationalen FCAS-Prime Airbus an Bord.

Entscheidend für den Erfolg ist jedoch die Gesellschaft als Ganzes, die sich durch einen breiten Querschnitt politischer Stiftungen, Hochschulen sowie politik- und gesellschaftswissenschaftlicher ‚Think Tanks‘ engagiert. Das Format lebt vielmehr vom kritischen Diskurs. Die Ergebnisse der Diskussionen werden festgehalten und auf der Homepage www.fcas-forum.eu veröffentlicht.

Verantwortung als Prinzip

Technische Beherrschbarkeit und persönliche Verantwortbarkeit sind zentral; denn letztlich ist FCAS in besonderem Maße durch künstliche Intelligenz (KI) und Automation geprägt. Wolf von Baudissin, einer der visionären Gestalter der Bundeswehr, formulierte diesen Gedanken: „Das aufs höchste technisierte Gefecht verlangt, dass die Verantwortung an sehr vielen unteren Stellen gesehen und getragen wird. Daher muss alles getan werden, um den Menschen vor Situationen zu stellen, die seine Verantwortung herausfordern und ihn die Folgen von Tun und Unterlassen erleben lassen.“

Verantwortung ist als Prinzip fundamentaler als „Human-in-the-loop“ oder „Human-on-the-loop“. Denn auch automatisierte Verteidigung muss verantwortbar sein, wenn etwa die menschliche Reaktionszeit zu kurz oder die Datenfülle zu groß ist. Aber auch in automatisierten Systemen muss der Mensch eingebunden sein, nicht nur durch die Entscheidung, das System zu nutzen, sondern es so zu konfigurieren, dass „meaningful human control“ umfassend gewährleistet bleibt.

Das bedeutet konkret: Basierend auf einem vom Menschen definierten Regelwerk kann es vertretbar sein, automatisierte Entscheidungsfindung zu erlauben. Ziel ist es zum Beispiel, dem Piloten oder der Pilotin Wissen zu vermitteln, auf dessen Grundlage er oder sie einer automatisierten Entscheidungsunterstützung vertrauen kann und zugleich die Rahmenbedingungen der Automation kennt.

Historische Premiere

Erstmals in der Geschichte der Bundesrepublik wird ein verteidigungspolitisches Großprojekt von Beginn an vom gedanklichen Ringen um die technische Umsetzung ethischer und rechtlicher Grundprinzipien begleitet! Da FCAS als ein europäisches Projekt konzipiert ist, soll mittelfristig auch die „FCAS-AG Technikverantwortung“ transnational ausgeweitet werden.

Ziel ist es, die erlangten Erkenntnisse wirksam zu operationalisieren. Unsere Verteidigungsbereitschaft gegenüber hochgerüsteten Gegnern muss nicht nur technologisch glaubwürdig sein, sondern zugleich dem im Grundgesetz festgeschriebenen Ziel entsprechen, „im Bewusstsein [unserer] Verantwortung vor Gott und den Menschen […] in einem vereinten Europa dem Frieden der Welt zu dienen.“