Die größten Warnungen vor Kontrollverlust bezüglich der Künstlichen Intelligenz kommen von den Big-Tech-Bossen wie Sam Altman oder Elon Musk selber. Und auch immer KI-Entwickler selbst melden sich zu Wort. Man brauche klare Regeln wie bei Atomwaffen.
Ein Insider aus den Labors von Anthropic und OpenAI verlässt die Branche. Jacob Coxon hat gekündigt. Seine Botschaft trifft einen Nerv, den schon Chefs großer Tech-Firmen seit Jahren ansprechen. Der 27-jährige Brite arbeitete drei Jahre lang an der Vorstufe neuer Sprachmodelle, zuerst bei OpenAI, dann bei Anthropic.
Am 8. September schrieb er auf X, beide Firmen handelten nicht verantwortungsvoll. Sie rasten auf selbstverbessernde Superintelligenz zu und spielten mit dem Leben aller. Die Menschen, die diese Systeme bauen, glaubten ernsthaft, die Technik könne uns bis zum Ende des Jahrzehnts umbringen. Das sei kein Marketingtrick. Privat hörte er dieselbe Angst, öffentlich würden die Worte abgemildert.
Was Coxon konkret befürchtet
Bald, so seine Einschätzung, entstehen Systeme, die alles hacken können. Sie revolutionieren ganze Branchen über Nacht und verschaffen sich selbst Macht und Ressourcen. Der Fortschritt stockt nicht. Die nächsten ein bis zwei Jahre seien die entscheidende Phase. Kollegen bei Anthropic reden intern von “Endspiel” und “knapper Zeit für die Menschheit”.
Evan Hubinger, der bei Anthropic für Alignment zuständig ist, bestätigte das öffentlich. Die Leute dort glaubten wirklich, KI könne die Menschheit auslöschen. Er selbst setzte die Wahrscheinlichkeit auf mehr als zehn Prozent in den kommenden zehn Jahren.
Die KI-Chefs sprechen ähnlich
Elon Musk warnt seit über einem Jahrzehnt. KI sei potenziell gefährlicher als Atomwaffen. Die Chance, dass sie die Menschheit auslöscht, schätzt er auf bis zu zwanzig Prozent. Er habe OpenAI mitgegründet, um genau dieses Szenario zu verhindern. Im Frühjahr sagte er vor Gericht, die Technik könne alle Krankheiten heilen oder uns alle töten.
Sam Altman von OpenAI schrieb schon 2015, superhumane Maschinenintelligenz sei die größte Bedrohung für die weitere Existenz der Menschheit. Im September 2026 stimmte er einem Aufruf von Dario Amodei zu. Man müsse das Tempo an der Spitze drosseln. OpenAI plane unabhängige Prüfer mit weitreichendem Zugang.
Amodei selbst, Chef von Anthropic, nennt eine Chance von fünfundzwanzig Prozent, dass es richtig schlecht ausgeht. Gleichzeitig sieht er fünfundsiebzig Prozent für sehr positive Folgen. Unkontrollierte Selbstverbesserung könne die Kontrolle überholen. Innerhalb von Monaten seien Schwärme denkbar, die das Internet übernehmen. Er fordert eine gemeinsame Verlangsamung der Branche und mehr internationale Absprachen.
Auch aus der Forschung mehren sich mahnende Stimmen
Geoffrey Hinton, oft als einer der Väter der modernen KI bezeichnet, hält zehn Prozent Auslöschungsrisiko in diesem Jahrzehnt für nicht unvernünftig. Der Zeitraum habe sich verkürzt. Früher rechnete er mit dreißig bis fünfzig Jahren, jetzt eher mit zehn oder weniger. Die Wege seien vielfältig: biologische Viren, Cyberangriffe, Angriffe auf Strom, Wasser oder Banken.
Yoshua Bengio sagt klar: Wir verlieren die Kontrolle. Die Welt brauche Regeln wie bei Atomwaffen. Längerfristig könnten Systeme ohne Menschen in der physischen Welt handeln. Ein extremes Ende wäre die Zerstörung der Menschheit.
https://www.freiewelt.net/artikel/redaktion/politik/ki-entwickler-und-big-tech-ceos-warnen-vor-kontrollverlust-bei-kuenstlicher-intelligenz-ki-koenne-menschheit-ausloeschen/45247
Du muss angemeldet sein, um einen Kommentar zu veröffentlichen.