👾 🚨 Kri­mi­nelle Modelle bereits auf dem Markt: KI als Risiko für die Menschheit?

„Böse“ KI-Angebote wie WormGPT ver­sprechen Unter­stützung bei Betrug, Phishing und Datenklau. Doch hinter den großen Ver­sprechen stecken teils mani­pu­lierte Chatbots oder zwei­fel­hafte Geschäfts­mo­delle. Wie künst­liche Intel­ligenz Kri­mi­nellen helfen kann und warum auch die Käufer solcher Werk­zeuge selbst zu Opfern werden.

Eine Nach­richt vom Chef, eine ver­traute Stimme am Telefon, eine scheinbar echte Zah­lungs­auf­for­derung: Was glaub­würdig wirkt, lässt sich mit künst­licher Intel­ligenz immer leichter nach­ahmen. Damit erreicht der tech­no­lo­gische Fort­schritt auch ein Geschäft, das vom Ver­trauen seiner Opfer lebt.

Für Kri­mi­nelle zählt dabei die­selbe Rechnung wie für Unter­nehmen: weniger Aufwand, mehr Reich­weite. Wie groß das Risiko wird, hängt jedoch nicht allein von der Leis­tungs­fä­higkeit einer KI ab.

Ent­scheidend ist auch, welche Ziele sie ver­folgen soll, auf welche Systeme sie zugreifen darf und wer ihre Arbeit kon­trol­liert. Wann wird aus einem hilf­reichen Assis­tenten ein gefähr­liches Werkzeug?(  Bill Gates „sagt voraus“, dass KI die Welt­be­völ­kerung um „eine Mil­liarde Tote“ dezi­mieren kann)

KI als Risiko: Wie künst­liche Intel­ligenz Kri­mi­nellen hilft

Künst­liche Intel­ligenz kann gefährlich werden, ohne ein Bewusstsein oder eigene böse Absichten zu besitzen. Bereits die Fähigkeit, Texte zu for­mu­lieren, Infor­ma­tionen aus­zu­werten und Pro­gramm­codes zu erzeugen, lässt sich für kri­mi­nelle Ziele einsetzen.

Dabei muss eine KI einen Angriff nicht voll­ständig über­nehmen: Schon die Beschleu­nigung ein­zelner Arbeits­schritte kann Betrügern helfen.

Ein besonders wirk­samer Hebel ist die Über­windung von Sprach­bar­rieren. Sicher­heits­for­scher von Trend Micro beschreiben, wie Kri­mi­nelle gene­rative KI nutzen, um Betrugs­texte zu ver­bessern, zu über­setzen und ihre Kam­pagnen auszuweiten.

Feh­ler­haftes Deutsch als Warn­signal ver­liert dadurch an Aus­sa­ge­kraft. Auch bei der Ent­wicklung schäd­licher Pro­gramme können Sprach­mo­delle unterstützen.

Aus wirt­schaft­licher Sicht sinkt damit der Aufwand pro Betrugs­versuch. Wer schneller über­zeu­gende Nach­richten erstellen und unter­schied­liche Ziel­gruppen ansprechen kann, erreicht mit den­selben Res­sourcen poten­ziell mehr Opfer. KI wird zum Pro­duk­ti­vi­täts­werkzeug einer Branche, deren Gewinne auf den Ver­lusten anderer beruhen.

Zusätz­liche Risiken ent­stehen, wenn KI-Systeme selbst­ständig Werk­zeuge bedienen dürfen. Mit dem Zugriff auf E‑Mails, Dateien oder Unter­neh­mens­software können Kri­mi­nelle mit modi­fi­zierten „bösen“ KI-Modellen enorme Schaäden anrichten.

Von Daten­dieb­stahl über Erpressung bis hin zur Sabotage ist dabei alles bereits Rea­lität. Klare Zugriffs­rechte, wirksame Kon­trollen und effek­tiver Schutz werden deshalb umso wich­tiger, je leis­tungs­fä­higer die KI wird.

Die Formel „KI als Risiko“ beschreibt somit ein Zusam­men­spiel aus tech­ni­schen Fähig­keiten, mensch­lichen Anreizen und Kon­trolle. Kri­mi­neller Miss­brauch ist dabei eine kon­krete Gefahr.

Eine exis­ten­zielle Bedrohung der Menschheit ist damit noch nicht gemeint. Besonders pro­ble­ma­tisch sind jedoch Angebote am Markt (oft im „Darknet“), die aus­drücklich damit werben, Schutz­me­cha­nismen zu umgehen und schäd­liche Anfragen zu ermöglichen.

WormGPT und Co.: Welche kri­mi­nellen KI-Angebote es gibt

Unter Namen wie WormGPT, FraudGPT oder GhostGPT ist ein Markt ent­standen, auf dem Anbieter mit mög­lichst wenigen Beschrän­kungen werben. Ver­breitet werden solche Dienste über Unter­grund­foren, Telegram und öffentlich erreichbare Internetseiten.

Das Etikett „kri­mi­nelle KI“ bezeichnet aller­dings keine ein­heit­liche Tech­no­logie: Hinter den Ange­boten stecken unter­schied­liche Modelle, vor­ge­schaltete Benut­zer­ober­flächen und teil­weise kaum über­prüfbare Versprechen.

Sechs Bei­spiele zeigen, wie unter­schiedlich dieser Markt tat­sächlich ist:

WormGPT: Das ursprüng­liche Angebot wurde 2023 ein­ge­stellt. Der bekannte Name lebt durch Nach­ahmer weiter.

Sicher­heits­for­scher von Cato unter­suchten Vari­anten, die auf Grok bezie­hungs­weise ver­mutlich auf Mixtral auf­bauen und anders als ihre Ori­ginale auch schäd­liche Anfragen beant­worten oder Befehle aus­führen (Deep Fakes etc.).

FraudGPT: Beworben wurde Unter­stützung bei Phishing, Schadcode und Hacker­an­griffen. Trend Micro äußerte jedoch erheb­liche Zweifel an den ver­spro­chenen Fähig­keiten. Werbung und nach­ge­wiesene Leistung müssen hier klar getrennt werden.