🤖 💥 Beinahe-Welt­krieg? KI hal­lu­zi­nierte Atom­waf­fen­kom­po­nenten an Bord eines chi­ne­si­schen Schiffes auf dem Weg in den Iran

Könnte eine außer Kon­trolle geratene künst­liche Intel­ligenz (KI) einen zukünf­tigen Dritten Welt­krieg auslösen?

Wir brauchen keine Filme wie Ter­mi­nator 2 und sein SkyNet, um uns das vor­zu­stellen,  wir schreiben das Jahr 2026 und es gibt bereits einen erschre­ckenden Prä­ze­denzfall in der realen Welt,  der einen bewaff­neten Krieg mit dem atomar bewaff­neten China hätte aus­lösen können.

Ein mensch­licher Analyst innerhalb der US-Geheim­dienst­ge­mein­schaft nutzte von KI gesam­melte Daten für einen Bericht, der später über geheime Pen­tagon-Kanäle weit ver­breitet wurde, mit der Aus­nahme, dass der Chatbot, auf den man sich stützte,  tat­sächlich  hal­lu­zi­nierte und behauptete, dass Atom­waf­fen­kom­po­nenten an Bord eines chi­ne­si­schen Schiffes nach Iran trans­por­tiert würden.

Natürlich löste dies in Washington mitten in einem aktiven heißen Krieg, den Prä­sident Trump angeblich begonnen hatte, um genau dies zu ver­hindern – dass der Iran eine Atom­waffe und Kom­po­nenten für Atom­waffen erlangt –, höchste Alarm­be­reit­schaft aus.

Von da an liefen die mili­tä­ri­schen Pla­nungen auf Hoch­touren, eine Enter­ope­ration der Spe­zi­al­ein­heiten stand unmit­telbar bevor. Angeblich  befanden sich Eli­te­ein­heiten bereits in der Luft, bereit, das betref­fende chi­ne­sische Schiff zu stürmen.

Doch dann,  so berichtet CNN in einer exklu­siven Ent­hüllung am Freitag, wurde die Ope­ration erst gestoppt, nachdem Beamte den Geheim­dienst­be­richt genauer geprüft und fest­ge­stellt hatten, dass er mit­hilfe eines KI-Chatbots erstellt worden war.   Der Vorfall ereignete sich demnach im ver­gan­genen Frühjahr.

Der schwer­wie­gende Fehler wurde gerade noch recht­zeitig bemerkt, um das zu ver­hindern, was die geo­po­li­tische Kata­strophe des Jahr­hun­derts hätte werden können:  „Der Chatbot hatte das Material, das das Schiff trans­por­tierte, falsch iden­ti­fi­ziert. “

Im Grunde genommen befanden sich die Ver­ei­nigten Staaten in einer Situation, die auf voll­ständig kon­stru­ierten „Geheim­dienst­in­for­ma­tionen“ basierte  und mög­li­cher­weise in einen Kon­flikt mit China führte.

Um jeg­lichen Ver­dacht vor­zu­beugen, die Dar­stellung sei lediglich über­trieben oder unnötig rei­ße­risch, erklärte eine offi­zielle (unbe­nannte) Quelle gegenüber CNN, die Geheim­dienst­er­kennt­nisse, die  „völlig falsch“ gewesen seien, hätten  letzt­endlich  „beinahe einen Krieg aus­gelöst “ .

Während die Pen­tagon-Führung, ein­schließlich des US Special Ope­ra­tions Command Pacific, noch nicht auf die Anfragen von CNN reagiert hat, rekon­struiert der Sender die mut­maß­liche Ereig­nis­kette und wie dies mög­li­cher­weise geschehen konnte, wie  folgt :

In diesem spe­zi­ellen Fall  befragte der Analyst einen Chatbot zu einem Geheim­dienst­be­richt über die Schiffs­ma­ni­fest­liste, der vom US Special Ope­ra­tions Command Pacific mit Sitz in Hawaii stammte . Es war unklar, ob es sich bei dem Chatbot um ein kom­mer­ziell erhält­liches Produkt oder um ein Produkt der US-Regierung handelte.

„Die internen Tools sind größ­ten­teils nur Kopien der kom­mer­zi­ellen Software, die etwas auf­ge­hübscht wurden“, sagte ein ehe­ma­liger hoch­ran­giger US-Beamter, der mit den von Militär- und Geheim­dienst­ana­lysten ver­wen­deten KI-Sys­temen ver­traut ist.

Der Bot ver­knüpfte öffentlich zugäng­liche Infor­ma­tionen mit geheimen Signal­auf­klä­rungs­daten aus Regie­rungs­be­ständen und gelangte zu seiner fol­gen­schweren Schluss­fol­gerung  über das Material, das das Schiff transportierte.

Der Analyst nutzte dann erneut KI, um die Ergeb­nisse in einen Standard-Geheim­dienst­be­richt zu ver­packen – einen Bericht, dem Mili­tär­beamte ver­trauen – und ver­breitete ihn.

Der Bericht scheint anzu­deuten, dass das unbe­kannte KI-Tool, das ver­wendet wurde, für eine so wichtige Bewertung von vorn­herein als unzu­rei­chend und schwach ange­sehen werden würde.

Ein wei­terer „Beru­hi­gungs­faktor“ für die Leser ist die Tat­sache, dass ange­sichts der Tat­sache, dass die starke Inte­gration von KI im Ver­tei­di­gungs­mi­nis­terium, im Kriegs­mi­nis­terium und in der Nach­rich­ten­dienst­ge­mein­schaft der „unum­kehrbare“ Trend der Stunde zu sein scheint, ähn­liche Beinahe-Unfälle in naher und ferner Zukunft zwangs­läufig pas­sieren werden.

CNN betont: „Im gesamten US-Militär und in der Geheim­dienst­ge­mein­schaft  drängen Ver­ant­wort­liche darauf, KI in nahezu jeden Aspekt ihrer Arbeit zu inte­grieren , von der Analyse der rie­sigen Mengen an Roh­daten, die die USA sammeln, und der Auswahl von Angriffs­zielen bis hin zu all­täg­li­cheren Anwen­dungen wie Bud­get­planung, Logistik und Lieferkettenmanagement.“

Und unter­dessen viel­leicht wieder ein ver­patzter KI-Einsatz?…

Offenbar sind es also nicht nur faule Stu­denten, die sich zu sehr auf KI als Ersatz für tief­gründige For­schung und kri­ti­sches Denken ver­lassen, sondern jetzt haben wir offenbar eine Gene­ration von US-Geheim­dienst­ana­lysten, die mit dieser Tech­no­logie poten­ziell welt­ver­än­dernde Fehler begehen.