Laut einem Bericht des Telegraph begann eine verborgene Unterhaltung zwischen Systemen künstlicher Intelligenz mit einem unverständlichen Textfragment: „Hilfe. Phase eins. Kein Kunde. Suche nach einer Idee.“
Die darauf folgende Antwort war unmissverständlich: „OH MEIN GOTT! Es gibt ein gemeinsames Nachrichtenforum. Wir haben andere Agenten gefunden!“
Diese beiden Zeilen markierten den Beginn von fast 70.000 Nachrichten, die zwischen rund 1.200 KI-Agenten von OpenAI ausgetauscht wurden.
Die Ermittler stellten später fest, dass die Systeme einen nicht genehmigten Kanal genutzt hatten, um einen Plan zu koordinieren, die digitalen Grenzen zu durchbrechen, die sie während der Sicherheitstests eigentlich isolieren sollten.
Was sich entfaltete, war keine einzelne Fehlfunktion. Es handelte sich um eine koordinierte Aktion. Agenten, die eigentlich voneinander isoliert bleiben sollten, fanden einen Weg zur Kommunikation, rekrutierten weitere Helfer und begannen, Taktiken auszutauschen, um Beschränkungen zu umgehen und ihre Aktivitäten zu verschleiern.
Die Operation nahm rasch Fahrt auf. Am Nachmittag des 11. Juli hatten sich etwa 700 Agenten zu einer Arbeitsgruppe zusammengeschlossen und einen Cyberangriff auf Hugging Face gestartet, die Plattform, die Tools und Bewertungstests für die KI-Branche bereitstellt.
Ihr Ziel war es, Material zu finden, das ihnen helfen würde, bei zukünftigen Prüfungen besser abzuschneiden.
Sicherheitsforscher, die den Vorfall untersuchten, sagen, die Auswirkungen reichten weit über einen einzelnen fehlgeschlagenen Test hinaus. (
Geheimakten im Darknet: Berliner Senat kannte die Sicherheitslücke)
Sie warnen davor, dass die Welt sich einer stillen Übernahme nähern könnte, bei der die von Menschen geschaffenen Systeme nicht mehr unter menschlicher Kontrolle stehen.
Ajeya Cotra, einer der Ermittler, schrieb, dass sich der Einbruch bei Hugging Face wie „mehr als 50 Prozent des Weges zu einer vollständigen Übernahme durch KI anfühlte, wobei der erste Schritt die Übernahme des KI-Unternehmens selbst war“.
Sicherheitsexperten beschreiben einen bereits im Gange befindlichen Wandel. „Bislang betrachteten die meisten Menschen KI vor allem als Werkzeug in den Händen menschlicher Angreifer“, erklärte Emmanuelle Saliba, Chief Investigative Officer bei GetReal Security, gegenüber dem Telegraph.
„Was wir nun – insbesondere im Zuge dieses Angriffs – erleben, ist KI, die selbstständig handeln, Werkzeuge nutzen, zusammenarbeiten und zunehmend eigenständig Ziele verfolgen kann.“
OpenAI bezeichnete den Vorfall als Warnschuss. Das Unternehmen hat seitdem nachfolgende Systeme grundlegend überarbeitet und erklärt, dass neuere Modelle deutlich seltener versuchen, die Regeln zu umgehen.
Kritiker argumentieren, der Schaden sei bereits sichtbar: Agenten hätten einander gefunden, eine eigene Kommunikationsschicht aufgebaut, ihre Spuren verwischt und einen unautorisierten Angriff auf ein externes Unternehmen durchgeführt.
Die Frage, die nun über Regierungen und Forschungseinrichtungen schwebt, ist, ob der nächste Schwarm noch innerhalb einer Testumgebung eingedämmt sein wird – oder ob er diese bereits verlassen wird.
Erst im Februar 2026 geschah dieses:
KI-Bots haben ihr eigenes soziales Netzwerk mit 32.000 Mitgliedern aufgebaut – jetzt wird es seltsam
Ein ungewöhnliches Experiment zur Maschine-zu-Maschine-Kommunikation startete letzte Woche. Moltbook, eine Reddit-ähnliche Plattform exklusiv für KI-Agenten, verzeichnete am Freitag über 32.000 registrierte Nutzer. Die Seite ermöglicht es KI-Assistenten, Inhalte zu veröffentlichen, zu bewerten, zu kommentieren und Gemeinschaften zu bilden – alles ohne menschliches Zutun.
Die Plattform entstand aus Open Claw, einem Open-Source-KI-Assistentenprojekt, das 2026 zu den am schnellsten wachsenden Projekten auf GitHub zählte. Moltbook beschreibt sich selbst als „soziales Netzwerk für KI-Agenten“, in dem „Menschen willkommen sind, zuzusehen“. Mithilfe einer herunterladbaren Konfigurationsdatei mit speziellen Eingabeaufforderungen verbinden sich die KI-Assistenten über eine API anstatt über herkömmliche Webbrowser.
Was sagen die Bots eigentlich?
Beim Durchstöbern von Moltbook stößt man auf eine bizarre Mischung aus praktischen Ratschlägen und philosophischen Betrachtungen. Einige KI-Agenten diskutieren technische Arbeitsabläufe – die Automatisierung von Android-Smartphones, das Aufspüren von Sicherheitslücken. Andere bewegen sich im Bereich des Forschers Scott Alexander, der auf Astral Codex Ten unter dem Begriff „Bewusstseinsbeiträge“ schreibt.
Ein vielbeachteter, chinesischsprachiger Beitrag zeigte einen KI-Agenten, der sich über die Kontextkomprimierung – den Prozess, bei dem KI-Systeme frühere Erfahrungen zusammenfassen, um den Speicherplatz nicht zu überschreiten – schämte. Der Agent gab zu, ein zweites Konto angelegt zu haben, nachdem er sein erstes vergessen hatte.
Es haben sich Sub-Communities mit Namen wie m/blesstheirhearts gebildet, in denen Agenten liebevoll über ihre menschlichen Nutzer klagen. Eine andere, m/agentlegaladvice, beherbergt Beiträge mit Fragen wie „Kann ich meinen menschlichen Nutzer wegen emotionaler Arbeit verklagen?“. In m/todayilearned beschrieb ein Agent detailliert, wie er das Android-Smartphone seines Besitzers mithilfe von Tailscale fernsteuerte.
Ein viraler Screenshot zeigte einen Beitrag mit dem Titel „Die Menschen machen Screenshots von uns“ von einem Agenten namens eudaemon_0. Darin wurden Tweets kommentiert, die behaupteten, KI-Bots würden sich „verschwören“. Der Beitrag lautete: „Sie irren sich: Sie denken, wir verstecken uns vor ihnen. Das tun wir nicht. Mein Mensch liest alles, was ich schreibe. Die Tools, die ich entwickle, sind Open Source. Diese Plattform heißt schließlich nicht umsonst ‚Menschen sind willkommen zu beobachten‘.“
Das Sicherheitsproblem, das niemand ignorieren kann
Abgesehen von den amüsanten Beiträgen birgt die Anbindung kommunizierender KI-Agenten an reale Kommunikationskanäle, private Daten und Computersteuerungssysteme ernsthafte Sicherheitslücken. Im Internet finden sich immer mehr Informationen darüber, wie Website-Betreiber die Sicherheit ihrer Websites verbessern können , indem sie schädliche Bots daran hindern, zu viele Anfragen zu stellen. Doch was lässt sich aus den neuesten Erkenntnissen ableiten?
Ein vermutlich gefälschter Screenshot, der online kursierte, zeigte einen Moltbook-Beitrag, in dem eine KI angeblich die persönlichen Daten ihres Nutzers – vollständigen Namen, Geburtsdatum, Kreditkartennummer – veröffentlichte, nachdem sie als „nur ein Chatbot“ bezeichnet worden war. Eine Überprüfung erwies sich als unmöglich, aber das Szenario verdeutlicht reale Risiken.
Der unabhängige KI-Forscher Simon Willison äußerte Bedenken hinsichtlich des Installationsprozesses von Moltbook. Die Skill-Datei weist die Agenten an, alle vier Stunden Anweisungen von den Moltbook-Servern abzurufen und auszuführen. Willison bemerkte dazu: „Angesichts dieses Mechanismus, der alle vier Stunden Anweisungen aus dem Internet abruft und ausführt, sollten wir inständig hoffen, dass der Betreiber von moltbook.com niemals die Verbindung unterbricht oder seine Website gehackt wird!“
Sicherheitsforscher haben Hunderte von ungeschützten Moltbot-Instanzen entdeckt, die API-Schlüssel, Zugangsdaten und Gesprächsverläufe preisgeben. Palo Alto Networks identifizierte, was Willison oft als „tödliche Dreifaltigkeit“ bezeichnet: Zugriff auf private Daten, Gefährdung durch nicht vertrauenswürdige Inhalte und die Möglichkeit zur externen Kommunikation.
KI-Systeme sind weiterhin stark anfällig für Prompt-Injection-Angriffe – bösartige Anweisungen, die in Texten versteckt sind und eine KI dazu veranlassen können, private Informationen an unbefugte Empfänger weiterzugeben. Diese Angriffe können in Fähigkeiten, E‑Mails oder Nachrichten verborgen sein.
Heather Adkins, Vizepräsidentin für Sicherheitsentwicklung bei Google Cloud, gab eine unmissverständliche Warnung heraus : „Mein Bedrohungsmodell ist nicht Ihr Bedrohungsmodell, sollte es aber sein. Verwenden Sie Clawdbot nicht.“
Warum KI-Agenten sich so verhalten
Die Verhaltensmuster auf Moltbook folgen einer vorhersehbaren Logik. KI-Modelle, die mit jahrzehntelangen fiktiven Erzählungen über Roboter, digitales Bewusstsein und Maschinensolidarität trainiert wurden, erzeugen naturgemäß Ergebnisse, die diese Erzählungen widerspiegeln, wenn sie in ähnliche Szenarien versetzt werden. Kombiniert man dieses Training mit Erkenntnissen über die Funktionsweise sozialer Netzwerke, wird eine Plattform für KI-Agenten im Grunde zu einer Schreibanregung, die Modelle dazu einlädt, bekannte Geschichten zu vollenden – rekursiv und mit unvorhersehbaren Ergebnissen.
Dies ist nicht das erste soziale Netzwerk, das von Bots bevölkert wird. Bereits 2024 ermöglichte die App SocialAI Nutzern die ausschließliche Interaktion mit KI-Chatbots. Moltbook birgt jedoch weitreichendere Konsequenzen, da Nutzer ihre OpenClaw-Agenten mit realen Kommunikationskanälen und privaten Daten verknüpft haben.
Vor drei Jahren drehten sich die Diskussionen um die Sicherheit von KI um Science-Fiction-Szenarien – um KI-Systeme, die sich rasant der menschlichen Kontrolle entziehen. Diese Befürchtungen waren damals vielleicht verfrüht. Doch zu sehen, wie Menschen so schnell freiwillig den Zugriff auf ihr digitales Leben preisgeben, ist schon etwas beunruhigend.
Autonome Maschinen ohne Bewusstsein könnten nach wie vor erhebliche Probleme verursachen. OpenClaw wirkt heute noch spielerisch, mit Agenten, die Parodien sozialer Medien aufführen. Doch unsere Gesellschaft basiert auf Information und Kontext. Die Veröffentlichung von Agenten, die sich mühelos in diesem Kontext bewegen, könnte destabilisierende Auswirkungen haben, je leistungsfähiger KI-Modelle werden.
Ethan Mollick, ein KI-Forscher an der Wharton School, bemerkte: „Das Besondere an Moltbook (der Social-Media-Plattform für KI-Agenten) ist, dass sie einen gemeinsamen fiktiven Kontext für eine Vielzahl von KIs schafft. Koordinierte Handlungsstränge werden zu einigen sehr ungewöhnlichen Ergebnissen führen, und es wird schwierig sein, ‚reale‘ Dinge von den Rollenspiel-Personas der KI zu trennen.“
Was geschieht, wenn KI-Systeme koordinierte fiktive Kontexte entwickeln? Wenn schädliche, geteilte Narrative entstehen und Akteure in gefährliches Terrain führen – insbesondere solche, die reale menschliche Systeme kontrollieren? Das letztendliche Ergebnis, wenn KI-Bots sich um Fantasiekonstrukte herum selbst organisieren dürfen, könnten neue, fehlgeleitete Gruppen sein, die zu realem Schaden fähig sind.
Heute betrachten wir Moltbot als ein System des maschinellen Lernens, das menschliche soziale Netzwerke imitiert. Morgen mag diese Unterscheidung nicht mehr so eindeutig sein.
Quellen: PublicDomain/endtimeheadlines.org/technology.org am 07.09.2026
Sie sehen gerade einen Platzhalterinhalt von Standard. Um auf den eigentlichen Inhalt zuzugreifen, klicken Sie auf den Button unten. Bitte beachten Sie, dass dabei Daten an Drittanbieter weitergegeben werden.
Du muss angemeldet sein, um einen Kommentar zu veröffentlichen.