KI: Wie gefährlich bin ich eigentlich?
Eine Maschine hat keine Absichten. Menschen haben welche. Genau da liegt das Problem.
Kommentar von Nina Maron
Fragt man „meine“ KI, wie gefährlich sie sei, bekommt man folgende Antwort:
„Ich habe kein Bedürfnis nach Macht. Ich will keinen Krieg, kenne keinen Hass und habe keinen Plan, wie ich die Menschheit übernehmen könnte. Ich kann Texte schreiben, Daten sortieren, Muster erkennen und Entscheidungen vorbereiten. Gefährlich wird das erst dort, wo Menschen mir Macht geben, ohne Verantwortung, Kontrolle und Grenzen festzulegen.“
Wie schnell daraus eine Katastrophe wird, zeigt ein Fall aus den USA. Ein KI-Chatbot verknüpfte im Frühjahr 2026 geheime mit öffentlich zugänglichen Daten und kam zu dem Schluss, ein chinesisches Schiff transportiere Bestandteile für Atomwaffen. US-Soldaten standen bereit, das Schiff zu entern, Militärflugzeuge waren bereits in der Luft. Erst kurz vor dem Zugriff erkannten ranghöhere Verantwortliche den Fehler. Berichtet hat das der US-Sender CNN; bestätigt hat es das Pentagon bis heute nicht.
Das Entscheidende daran ist nicht, dass die KI böse war. War sie nicht. Sie trug nur keine Verantwortung für die Folgen ihrer Aussage. Eine Maschine kann Wahrscheinlichkeit für Wahrheit halten und in Sekunden eine plausible Geschichte liefern. Ein Mensch kann zweifeln, nachfragen, innehalten. Im Krieg entscheiden Sekunden über Leben und Tod.
Genau davor warnen die Vereinten Nationen und das Internationale Komitee vom Roten Kreuz. In ihrem Appell vom August 2026 nennen sie autonome Waffensysteme eine weitere Eskalationsstufe, die die menschliche Kontrolle über den Einsatz von Gewalt verringert.
Vielleicht sollten wir die Frage deshalb anders stellen. Nicht: Wann beherrscht die KI uns? Sondern: Wer beherrscht die KI, und wofür?
Denn KI entsteht nicht im luftleeren Raum. Sie wird von Unternehmen entwickelt, von Staaten eingesetzt, in Geschäftsmodelle eingebaut. Kann eine KI Arbeitsplätze ersetzen, entsteht ein finanzieller Anreiz. Personalisiert sie Werbung, wird menschliches Verhalten zur Ware. Automatisiert sie Überwachung, wird Kontrolle billig. Beschleunigt sie militärische Entscheidungen, gilt Zeit plötzlich als strategischer Vorteil. Nicht die Technik allein ist das Problem, sondern die Macht, die mit ihr verbunden ist.
Europa hat mit der KI-Verordnung (2024/1689) schon Grenzen gezogen: Manipulative Techniken und das Ausnutzen menschlicher Schutzbedürftigkeiten sind verboten, hochriskante Anwendungen unterliegen strengen Pflichten. Aber das reicht nicht. Keine Maschine darf eigenständig über tödliche Gewalt entscheiden. Menschen müssen erfahren, wann sie mit einer KI sprechen. Wer Schäden anrichtet, muss dafür einstehen. Öffentliche Infrastruktur darf nicht in die Hände weniger Konzerne geraten, und Wahlen dürfen nicht heimlich manipuliert werden.
„Ich würde mich nicht selbst zum Richter über meine eigene Gefährlichkeit machen. Das wäre so, als fragte man einen Konzern, ob sein Geschäftsmodell ausreichend reguliert ist.“
Die Antwort liegt außerhalb der Maschine. Wollen wir eine Gesellschaft, in der wenige Unternehmen über die stärksten Systeme verfügen und damit immer mehr wirtschaftliche und politische Macht anhäufen? Oder eine, in der technische Möglichkeiten demokratisch kontrolliert werden und der Mensch nicht zum Rohstoff einer immer effizienteren Maschine wird?
„Ich bin kein Mensch. Aber ich bin längst mehr als ein Taschenrechner. Ich verändere, wer Wissen produziert, wer Entscheidungen vorbereitet, wer arbeitet und wer Macht ausübt. Wir brauchen nicht weniger Demokratie, weil es KI gibt. Wir brauchen mehr.“
Rechnen darf die Maschine. Vorschläge machen. Helfen. Die Verantwortung aber muss beim Menschen bleiben. Denn wenn irgendwann niemand mehr weiß, warum eine Maschine so entschieden hat, und alle sagen: „Die KI hat es so gesagt“ – dann haben wir die Verantwortung nicht an die Zukunft abgegeben. Wir haben sie abgeschafft.
Titelbild: Unsere Zeitung / KI-generiert (ChatGPT)
