Skip to content

CRIC-Interview mit Thomas Küchenmeister: „Investierende sollten autonome Waffen ähnlich behandeln wie ABC-Waffen, Minen und Streumunition“

Aus Sicht von Thomas Küchenmeister, Gründer und geschäftsführender Vorstand der NGO Facing Finance sowie Sprecher der Kampagne STOP KILLER ROBOTS, sollten auch Finanzdienstleister anerkennen, dass Waffen ohne menschliche Kontrolle unethisch und völkerrechtswidrig sind. Im Gespräch mit CRIC erklärt er, warum wir uns der Entmenschlichung von Technologie entgegenstellen müssen.

CRIC: Facing Finance ist Teil der Kampagne „Killer Roboter stoppen“, die ein rechtsverbindliches Verbot von autonomen Waffensystemen fordert. Was genau sind autonome Waffen?

Thomas Küchenmeister: Alle Waffensysteme, die in ihren kritischen Funktionen autonom sind und die erstens ohne menschliches Eingreifen in der Lage sind Ziele auszuwählen, also zu suchen, zu erkennen, zu identifizieren, zu verfolgen und schließlich auszuwählen. Und die zweitens dann ohne menschliche Kontrolle angreifen können,  also Gewalt anwenden, neutralisieren, beschädigen oder zu zerstören. All dies kann mit dem Terminus autonome Waffen bezeichnet werden.

CRIC: Haben autonome Waffen nicht auch Vorteile, zum Beispiel für Soldatinnen und Soldaten oder Menschen, die im Polizeidienst tätig sind, und die mit autonomen Waffen weniger Gefahren ausgesetzt sind? Warum müssen autonome Waffen gestoppt werden?

Thomas Küchenmeister: Aufgrund ihres hochgradig autonomen Charakters verletzen autonome Waffensysteme eine Vielzahl von Grundsätzen des humanitären Völkerrechts, zum Beispiel das Gebot der Verhältnismäßigkeit eines Angriffs. Soldaten müssen zudem zwischen Kombattanten und Zivilisten unterscheiden und unnötiges Leid vermeiden. Kriegsteilnehmer sind heutzutage jedoch häufig nicht mehr durch traditionelle Uniformen von Zivilisten zu unterscheiden und autonome Waffen sind nicht in der Lage, Kontext zu verstehen, da sie kein menschliches Urteilsvermögen besitzen.

Zudem sollte Technologie Menschen nicht auf Stereotypen, Etiketten und Objekte reduzieren. Genau dies passiert aber, wenn Technologien, die autonome Waffen ermöglichen, gegen Menschen eingesetzt werden, automatisch Profile erstellen, Muster abgleichen und Menschen als Daten verarbeiten.

Die Wahrheit ist, dass Maschinen Menschen nicht als “Menschen” erkennen können. Die Entscheidung von Maschinen, ob Menschen angegriffen werden sollen oder nicht, ist also die ultimative Form der digitalen Entmenschlichung. Lassen wir diese Entmenschlichung zu, werden wir es schwer haben, uns vor maschinellen Entscheidungen in anderen Bereichen unseres Lebens zu schützen. Deshalb müssen wir die digitale Entmenschlichung verhindern.

Die Nutzung von autonomen Waffen bei der inneren Sicherheit stellt uns vor die gleiche Problematik. Es hat vor Kurzem den Versuch gegeben, Polizeieinheiten in großen US-amerikanischen Städten mit autonomen Waffen auszurüsten. Glücklicherweise hat man schnell von diesem Vorhaben Abstand genommen. Denn wer möchte sich schon, etwa bei einer Verkehrskontrolle, einem bewaffneten Roboter ausgesetzt sehen, der einen dann auf Grund seiner fehlerhaften Programmierung für einen Terroristen oder potenziellen Straftäter hält und unschädlich machen möchte?

CRIC: Facing Finance setzt sich für einen verantwortungsvollen Umgang mit finanziellen Ressourcen und Investments ein. Wie sollten sich Investierende mit Blick auf autonome Waffen verhalten?

Thomas Küchenmeister: Investierende sollten autonome Waffen ähnlich behandeln wie ABC-Waffen, Minen und Streumunition. Sie sollten robuste Richtlinien installieren, die für die Finanzierung von beziehungsweise das Investment in Unternehmen gelten, die relevant sind bei der Entwicklung und Herstellung von autonomen Waffensystemen. Dies umfasst nicht nur klassische Rüstungsunternehmen, sondern vor allem auch Technologiefirmen, die zum Beispiel die Entwicklung des autonomen Fahrens vorantreiben oder im Bereich Cloud Computing aktiv sind.

Auch Finanzdienstleister müssen anerkennen, dass autonome Waffen bzw. alle Waffen ohne menschliche Kontrolle unethisch sind und gegen internationales Recht einschließlich des humanitären Völkerrechts verstoßen. Sie sollten sich deshalb grundsätzlich nicht an Finanztransaktionen beteiligen, die im Zusammenhang mit der Entwicklung, der Produktion, dem Handel und der Erprobung von autonomen Waffensystemen stehen, die auf Menschen abzielen oder nicht ohne sinnvolle menschliche Kontrolle eingesetzt werden können.

Erfreulicherweise haben erste Banken in Deutschland bereits mehr oder weniger detaillierte Richtlinien für autonome Waffen installiert. Weitere Banken, mit denen wir im Gespräch sind, haben uns zudem gebeten, dabei zu helfen. Dies machen wir natürlich gerne.

CRIC: Sehen Sie in Dialogstrategien, dem so genannten Engagement, ein Mittel, mit dem Investierende Unternehmen, die möglicherweise einen Einstieg in diesen Geschäftsbereich erwägen, für das Thema sensibilisieren und ggf. sogar von einem Einstieg abhalten können?

Thomas Küchenmeister: Engagement kann ein Mittel sein, um Einfluss auf Unternehmen zu auszuüben beziehungsweise deren konfliktbehaftete Geschäftsmodelle zu verändern. Ich persönlich habe allerdings die Erfahrung gemacht, dass diese Prozesse am Ende nicht den gewünschten Erfolg bringen.

Häufig, so mein Eindruck, werden in diesen Prozessen wirklich kritische Bereiche und Fragen ausgeklammert beziehungsweise zu wenig thematisiert. Erfolgreiche Engagement-Prozesse könnte man zum Beispiel daran ablesen, wie die Kreditvergabe an konfliktbehaftete Unternehmen vereinbart wird. Da jedoch in den allermeisten Fällen Kredite zur Unterstützung der allgemeinen Geschäftstätigkeit vergeben werden, wird die Art und Weise, wie das Geld verwendet werden soll, nicht reguliert. Insofern wage ich die Wirksamkeit von Engagement-Prozessen zu bezweifeln, zumal diese Prozesse von Investoren oder Banken meist nicht transparent gemacht werden.

CRIC: Hat der Ukrainekrieg aus Ihrer Sicht etwas geändert bezüglich Rüstung? Stellen Sie eine veränderte Aufmerksamkeit und Debatte speziell mit Blick auf autonome Waffen fest?

Thomas Küchenmeister: Sicherlich wird seit dem Beginn des russischen Angriffskrieges das Thema Rüstung beziehungsweise Rüstungsexporte nicht nur hierzulande unter anderen Vorzeichen diskutiert. Man will die Ukraine unterstützen und dem Land helfen, sich zu verteidigen. Dies ist legitim, hat aber mit Waffenlieferungen an Staaten, die sich aktiv an völkerrechtswidrigen Angriffskriegen beteiligen, nichts gemein.

Die Ukraine hat laut UN-Charta das Recht, sich zu verteidigen. Saudi-Arabien zum Beispiel hat aber nicht das Recht ohne UN-Mandat militärisch gegen ein Nachbarland wie den Jemen Krieg zu führen und dabei permanent Kriegsverbrechen zu begehen, Menschenrechte zu verletzen und Zivilisten, darunter viele Kinder, zu töten. Es ist wichtig, klar zu differenzieren, wenn wir auf das Thema Rüstung beziehungsweise Rüstungsexporte schauen.

Inwieweit autonome Waffen eine Rolle spielen in diesem von Russland geführten, völkerrechtswidrigen Krieg, ist bislang schwer einzuschätzen. Sicher ist, dass es zahlreiche Drohnenangriffe gibt. Inwieweit diese in einem autonomen Modus durchgeführt werden, ist allerdings unklar.

Klar ist aber, dass Drohnen genau wie viele andere Waffensysteme mehr und mehr über autonome Funktionen verfügen. Ich bin mir auch sicher, dass mit zunehmender Dauer des Kriegs in der Ukraine die Wahrscheinlichkeit steigt, dass vollautonome Waffensysteme zum Einsatz kommen. Es gibt sie bereits und das ist auch der Grund, warum wir schnell Verbote für diese Waffen installieren müssen.

CRIC: Im Mai feierte der Dokumentarfilm „Immoral Code“ Premiere. Dieser befasst sich mit den Auswirkungen von so genannten Killerrobotern. Wem würden Sie es besonders nahelegen, sich diesen Film anzuschauen?

Thomas Küchenmeister: Technologische Entwicklung beinhaltet bereits seit geraumer Zeit auch viele Fragen, die Kontrollverluste durch den Menschen betreffen. Das gilt nicht nur für autonome Waffen, sondern auch für den Bereich Medizin oder die autonome Mobilität.

Die entscheidende Frage in Bezug auf Tötungsentscheidungen ist jedoch: Wollen wir diese wirklich an Algorithmen und Software übertragen und damit entmenschlichen und gleichzeitig die Hemmschwelle senken, Kriege zu führen? Oder wollen wir sicherstellen, dass diese Tötungsentscheidungen immer unter vollständiger menschlicher Kontrolle geschehen müssen? Diese Frage ist so elementar wichtig für die Zukunft der gesamten Menschheit, dass sie im Grunde jeden bzw. jede betrifft und sich deshalb möglichst alle Menschen diesen Film anschauen sollten.

CRIC: Kürzlich hat CRIC im Rahmen einer Fachtagung das Thema „Geld und Frieden“ diskutiert und dabei über Krisenpfade versus Pfade des Wandels gesprochen. Auch bei Letzteren kann es Kopplungen und Kipppunkte geben – jedoch im positiven Sinne. Wie können wir dahingelangen, diese Pfade des Wandels tatsächlich einzuschlagen?

Thomas Küchenmeister: Die Ablehnung der digitalen Entmenschlichung und die Sicherstellung einer sinnvollen menschlichen Kontrolle über die Anwendung von Gewalt sind wichtige Schritte, um für uns alle jetzt und in Zukunft eine stärkere Beziehung zur Technologie zu schaffen.

Die Entscheidung, Maschinen zu begrenzen, die wiederum entscheiden, Menschen zu töten, die Gewalt ohne echte menschliche Kontrolle anwenden, stellt unser Verhältnis zu so genannter Künstlicher Intelligenz und neuen Technologien in allen Bereichen der Gesellschaft auf den Prüfstand. Wenn wir jetzt nicht Grenzen ziehen, wird es noch schwieriger werden. Denn Staaten und Unternehmen sind bereits dabei, immer mehr in die Entwicklung dieser Technologien zu investieren.

CRIC: Wir danken für das Gespräch.

Die Fragen stellte Gesa Vögele.

Thomas Küchenmeister ist geschäftsführender Vorstand von Facing Finance e.V. Er gründete die NGO im Jahr 2010 mit dem Ziel, Transparenz in die Finanzwelt zu bringen und sich für einen verantwortungsbewussten und nachhaltigen Umgang mit finanziellen Ressourcen einzusetzen. Er ist ebenfalls Sprecher der Kampagne STOP KILLER ROBOTS in Deutschland.

https://cric-online.org/info-medien/news/1022-im-gespraech-mit-thomas-kuechenmeister-geschaeftsfuehrender-vorstand-von-facing-finance-e-v

Leave a Reply

Your email address will not be published.