Interview mit Prof. Dr. Reimund Neugebauer, Präsident der Fraunhofer-Gesellschaft, & Dirk Hoke, CEO Airbus Defence and Space, zur FCAS Arbeitsgemeinschaft (AG) Technikverantwortung

Was hat Sie dazu bewogen, eine Arbeitsgemeinschaft (AG) „Technikverantwortung“ für FCAS ins Leben zu rufen?

Dirk Hoke: Die Staatschefs von Frankreich und Deutschland haben das „Future Combat Air System“, kurz FCAS, ins Leben gerufen. Es besitzt meines Erachtens neben der reinen technologischen Machbarkeit und der verteidigungspolitischen Komponente auch eine gesellschaftspolitische Relevanz. Hier werden Technologien wie beispielsweise Künstliche Intelligenz Einsatz finden, die zukunftsweisend sind, jedoch durchaus auch kritisch diskutiert werden. Und diese Diskussion ist notwendig! Für Airbus als hauptverantwortlichen Industriepartner auf deutscher Seite ist es daher selbstverständlich und von großer Bedeutung, sich auch gesellschaftlichen, ethischen wie rechtlichen Fragen zu stellen, die damit verbunden sind. Dies geschieht im Rahmen der AG Technikverantwortung.

Prof. Reimund Neugebauer: Wir verfolgen bei Fraunhofer verschiedene Initiativen zur Sicherung der deutschen und europäischen Technologiesouveränität, von der Batteriezellfertigung über Datensicherheitsthemen bis hin zu Wasserstoff und Quantencomputing. Auch FCAS passt als wegweisendes, umfassendes Technologieprogramm bestens in diese Reihe. Das Vorhaben wird weit bis in das 21. Jahrhundert hinein ausstrahlen. Schlüsseltechnologien zur Realisierung dieses „System-of-Systems“ aus bemannten und unbemannten Komponenten sind Künstliche Intelligenz und Automatisierung in all ihren Stufen. Diese Themen sind für Fraunhofer auch in anderen Technologiefeldern von großer Bedeutung.

In einem Programm wie FCAS zeigen sich zugleich die ethischen und rechtlichen Herausforderungen der Digitalisierung wie in einem Brennglas. Können wir hier demonstrieren, dass sich der Einsatz von Künstlicher Intelligenz in einem Verteidigungsprojekt verantwortungsvoll gestalten lässt, ist auch für die zivile Nutzung viel gewonnen. Vertrauenswürdige Künstliche Intelligenz ist für Fraunhofer ein zentrales Thema und damit verbunden zum Beispiel die Regulation(sfähigkeit), die rechtliche und ethische Compliance oder Robustheit und Sicherheit des Systems. Grundsätzlichen Klärungsbedarf gibt es auch bei der Frage, wer zur Verantwortung gezogen wird. Beides – Vertrauenswürdigkeit und menschliche Verantwortung – sind Voraussetzung für gesellschaftliche Akzeptanz, für Markttauglichkeit und damit für die tatsächliche Realisierung von Innovationspotenzialen.

Die Kooperation von Airbus und Fraunhofer klingt ungewöhnlich. Wie haben Sie hierfür zusammengefunden?

Neugebauer: Fraunhofer steht wie keine andere Forschungseinrichtung für die Kooperation mit der Industrie und eine starke Anwendungsorientierung in der Forschung. Wir sind schon seit Langem ein etablierter Partner in der Luftfahrtforschung. Die Institute des Fraunhofer-Verbunds Verteidigungs- und Sicherheitsforschung (VVS) arbeiten zudem schon seit vielen Jahren in unterschiedlichen Themenfeldern mit Airbus vertrauensvoll zusammen. Das Fraunhofer-Institut für Kommunikation, Informationsverarbeitung und Ergonomie FKIE engagiert sich bereits seit längerer Zeit bei der Umsetzung des sogenannten nationalen FCAS-Masterplanes. Dort werden die technischen Grundlagen für die Entwicklung von FCAS gelegt. Eine Frucht dieses Engagements ist die Integration des Fraunhofer VVS in das FCAS-Industriekonsortium im vergangenen Jahr.

Hoke: Die Kooperation ist im Dialog zwischen Airbus und Fraunhofer aus der Überzeugung entstanden, dass man ein Projekt wie FCAS – was es in dieser Form und Dimension noch nie gegeben hat – nicht alleine aus der technologischen Warte heraus betrachten kann. Anders ausgedrückt: Nicht alles, was technologisch machbar erscheint, ist ethisch, moralisch und völkerrechtlich auch zulässig. Dieser Diskussion wollen wir uns stellen, wohlwissend, dass es sich dabei um ein Spannungsverhältnis handelt, das wir bestmöglich auflösen möchten. Ich bin dankbar, dass wir diese Aufgabenstellung mit einem so versierten Partner wie Fraunhofer angehen können sowie den zahlreichen Expertinnen und Experten, die ihre sehr unterschiedlichen Hintergründe und Perspektiven in diese wichtige Diskussion einbringen.

Wie ist Ihre Arbeitsteilung in diesem Projekt?

Neugebauer: Grundsätzlich entspricht die Arbeitsteilung der Komplementarität von Fraunhofer und Industrie sowie ihren jeweils unterschiedlichen Aufgaben und Expertisen. Der Fraunhofer-VVS betreibt im Rahmen von FCAS anwendungsorientierte Grundlagenforschung mit dem Ziel der technischen Umsetzung. Ein über Jahrzehnte gewachsenes Verständnis der Bundeswehr und ihres Auftrags ist dabei ebenso Voraussetzung wie sicherheitstechnische Spitzenforschung im Interesse der Resilienz unseres Landes und Europas.

„Typisch Fraunhofer“ ist dabei insbesondere die gedankliche Durchdringung der ethisch relevanten Fragen, die durch die sicherheitstechnische Digitalisierung aufgeworfen werden. Zum Beispiel wurden solche Erkenntnisse aus informations- und ingenieurwissenschaftlicher Perspektive zur Münchener Sicherheitskonferenz 2020 in einer Publikation des German Institute for Defence and Strategic Studies vorgelegt. Gemeinsam mit Airbus und allen relevanten Stakeholdern werden derartige Überlegungen ergebnisoffen, gerade auch mit Vertretern der Zivilgesellschaft, diskutiert und in das technische Design für FCAS aufgenommen.

Hoke: Airbus ist der systemverantwortliche Industriepartner für FCAS in Deutschland. Dadurch nehmen wir eine Führungsposition im Sinne der technologischen Machbarkeit und industrieseitigen Umsetzung des Projekts ein. Für uns ist FCAS sowohl in Deutschland als auch in Europa insgesamt ein zentrales Zukunftsprojekt. Das spiegelt sich auch unserer Besetzung des Gremiums wider. Sowohl unser Programmleiter Bruno Fichefeux als auch unser Chefingenieur Tom Grohs sind feste Teilnehmer der Arbeitsgruppe. Auch ich versuche, so oft wie möglich zu den Sitzungen dazuzustoßen.

Nach welchen Kriterien wurden die Mitglieder der AG berufen und welche Aufgabe kommt ihnen zu?

Hoke: Uns war es zunächst wichtig, diejenigen Leute an Bord zu haben, die bei FCAS Weichenstellungen vornehmen und letztlich Entscheidungen treffen. Das sind zum einen relevante Akteure aus dem Bundesverteidigungsministerium. Zum anderen wollten wir auch unbedingt Vertreter des Auswärtigen Amtes an Bord haben. Darüber hinaus haben wir führende Experten von Stiftungen, Universitäten und Think Tanks eingeladen. Aufgrund der europäischen Dimension von FCAS ist es unser Ziel, den Dialog perspektivisch zu öffnen und künftig nicht nur auf Deutschland zu beschränken. Das wird sicher neue, spannende Perspektiven eröffnen.

Neugebauer: Dem kann ich nur beipflichten und möchte in diesem Zusammenhang betonen, dass die Mitglieder des Arbeitskreises nur ihrem Gewissen verpflichtet sind. Das Ziel der Arbeitsgruppe, die sich zweimal jährlich trifft, ist eine heterogene und kritische Diskussion der Thematik. Jedes dieser Treffen widmet sich konkreten Fragestellungen. Die Ergebnisse der Diskussionen sind transparent und werden auf der eigens zu diesem Zweck geschaffenen Webseite in Form von Ergebnisprotokollen der Öffentlichkeit zugänglich gemacht.

Welche Rolle spielt Ethik und Moral für Sie bei einem der größten Zukunftsvorhaben im europäischen Verteidigungsbereich?

Neugebauer: Nach meiner Überzeugung kommt technischer Beherrschbarkeit und persönlicher Verantwortbarkeit im sicherheitstechnischen Bereich eine Schlüsselstellung zu. Dies gilt vor allem für Systeme, die durch Künstliche Intelligenz und umfassende Automatisierung ermöglicht werden. Nicht umsonst engagiert sich Fraunhofer immens bei Fragen der Ethik auch im Hinblick auf KI-Systeme.

Hoke: Ethik und Moral spielen in unseren Überlegungen immer eine Rolle. Zum einen sind wir Ausrüster unserer europäischen Streitkräfte und leisten somit einen wichtigen Beitrag zur Sicherheitsvorsorge unserer Staaten. Zum anderen sind Programme wie FCAS aber nur dann für die Industrie tragfähig, wenn auch gewisse Skaleneffekte erzielt werden können, die diese hohen finanziellen Aufwendungen rechtfertigen und tragen. Sprich: Das System muss auch exportierbar sein, sonst kann sich die europäische Wirtschaft im globalen Wettbewerb kaum behaupten. Das bedeutet für alle Seiten, sich von Anfang an über Voraus- und Zielsetzungen im Klaren zu sein und dabei alle relevanten Aspekte bestmöglich zu beleuchten. Es geht hier schließlich um viel.

Welches Ziel verfolgen Sie mit der AG, was erhoffen Sie sich dadurch?

Neugebauer: Erstmals in der Geschichte der Bundesrepublik wird ein sicherheitstechnisches Großprojekt von Beginn an vom gedanklichen Ringen um die technische Umsetzung ethischer und rechtlicher Grundprinzipien begleitet – ethical and legal compliance by design. Ich wünsche mir, dass es gelingt, die Erkenntnisse der querschnittlich besetzten Arbeitsgemeinschaft wirksam zu operationalisieren. Unsere Sicherheit, Resilienz und Verteidigungsfähigkeit muss nicht nur technologisch glaubwürdig sein, sondern zugleich den europäischen Werten und Überzeugungen entsprechen, die wir verteidigen.

Hoke: Wissen Sie, solch ein Format hat es bisher noch nie gegeben. Insofern nehmen wir hier, wie ich finde, eine Vorreiterrolle ein und wir haben bisher positive Resonanz erhalten. Das stimmt mich zuversichtlich. Ich bin davon überzeugt, dass ein Projekt wie FCAS, das schon in der Entwicklung und Realisierung auf rund zwanzig Jahre angelegt ist, ohne einen gesellschaftlichen Diskurs in der heutigen Zeit kaum mehr realisierbar ist. Schließlich geht es hier nicht zuletzt um die verantwortungsvolle Verwendung von Steuergeldern. Uns erscheint es daher nur folgerichtig, eine solch zukunftsweisende sicherheits- und verteidigungspolitische Debatte in einem möglichst breiten gesellschaftlichen Rahmen zu führen und damit, so meine Hoffnung, bestmögliches Verständnis für das Thema zu schaffen.