Die Geschichte der künstlichen Intelligenz ist in eine Phase eingetreten, in der die alten Metaphern nicht mehr funktionieren. Es geht nicht mehr um einen „intelligenten Dialogroboter“, nicht um ein digitales Nachschlagewerk, nicht um ein Spielzeug zur Erzeugung von Bildern und Texten. Vor unseren Augen entsteht eine neue technologische Infrastruktur, die schrittweise Programmierung, Datenanalyse, Cyberoperationen, wissenschaftliche Modellierung, Steuerung von Geschäftsprozessen und sogar die Entwicklung der nächsten Generationen künstlicher Intelligenz übernimmt.
Genau deshalb klang die jüngste Warnung des Unternehmens Anthropic nicht wie eine gewöhnliche Unternehmensmitteilung, sondern wie ein Alarmsignal aus dem Inneren der Branche selbst. Das Unternehmen, das die Modellfamilie Claude geschaffen hat, erklärte: Die Entwicklung fortgeschrittener Systeme künstlicher Intelligenz könnte nicht nur neue Regeln erfordern, sondern auch die Möglichkeit einer weltweiten Verlangsamung oder vorübergehenden Unterbrechung des Wettrennens, falls die Risiken außer Kontrolle geraten. Im Zentrum dieser Sorge steht das Phänomen der rekursiven Selbstverbesserung, also eine Situation, in der Systeme künstlicher Intelligenz eine Schlüsselrolle bei der Schaffung noch leistungsfähigerer Systeme künstlicher Intelligenz zu spielen beginnen.
Das ist keine philosophische Fantasie mehr. Nach Angaben von Anthropic selbst wurden bis Mai 2026 mehr als 80 Prozent des Codes, der in die interne Codebasis des Unternehmens gelangte, von Claude geschrieben. Vor dem Start von Claude Code im Forschungsmodus im Februar 2025 lag dieser Anteil noch im niedrigen einstelligen Bereich. Mit anderen Worten: Innerhalb von anderthalb Jahren verwandelte sich künstliche Intelligenz vom Programmierassistenten in einen vollwertigen Produktionskreislauf, durch den der größte Teil der Ingenieursarbeit in einem der führenden Labore der Welt läuft.
Hier entsteht die zentrale Frage: Wenn künstliche Intelligenz bereits Code für ein Unternehmen schreibt, das künstliche Intelligenz entwickelt, wo endet dann das Werkzeug und wo beginnt die autonome technologische Schleife? Noch formuliert der Mensch die Aufgaben, prüft das Ergebnis, trifft architektonische Entscheidungen und trägt Verantwortung. Doch die Richtung ist offensichtlich: Modelle werden nicht nur leistungsfähiger, sondern gerade in jenen Bereichen nützlicher, die ihre weitere Entwicklung beschleunigen - Programmierung, Testverfahren, Fehlersuche, Infrastrukturoptimierung, Erzeugung synthetischer Daten, Automatisierung von Experimenten und Entwicklung von Agenten.
Rekursive Selbstverbesserung: Schreckbild oder technische Realität?
Der Begriff „rekursive Selbstverbesserung“ klingt häufig wie eine Handlung aus der Science-Fiction. Eine Maschine verbessert sich selbst, die neue Version verbessert die nächste, dann beschleunigt sich der Prozess, und der Mensch verliert die Fähigkeit, das System zu verstehen, zu kontrollieren und zu begrenzen. In der Publizistik lässt sich daraus leicht das Bild eines „Aufstands der Maschinen“ machen. Doch das eigentliche Problem ist feiner und gefährlicher.
Niemand behauptet, dass heutige Modelle über Willen, Bewusstsein oder politische Absichten verfügen. Ihre Gefahr liegt nicht darin, dass sie den Menschen „vernichten wollen“. Ihre Gefahr liegt in etwas anderem: Sie können zu derart wirksamen Instrumenten der Optimierung, Automatisierung und Skalierung werden, dass menschliche Institutionen - Recht, Staat, Arbeitsmarkt, Sicherheitssysteme und wissenschaftliche Ethik - keine Zeit haben, sich rechtzeitig umzustellen.
Rekursivität bedeutet in diesem Fall keine magische Selbstentwicklung, sondern einen praktischen Produktionszyklus. Künstliche Intelligenz hilft beim Schreiben von Code. Dieser Code verbessert die Infrastruktur der künstlichen Intelligenz. Die verbesserte Infrastruktur ermöglicht das Training stärkerer Modelle. Stärkere Modelle schreiben besseren Code, entwerfen bessere Experimente und automatisieren Forschungsprozesse effizienter. Auf jeder Stufe bleibt der Mensch in der Kette, doch sein Anteil kann kleiner werden. Irgendwann verwandelt sich Kontrolle von direkter Steuerung in nachträgliche Prüfung eines Systems, das sich schneller bewegt, als es überprüft werden kann.
Genau das unterscheidet die heutige Phase von früheren technologischen Revolutionen. Die Dampfmaschine entwarf nicht die nächste Dampfmaschine. Das Stromnetz schrieb keine technischen Vorschriften für ein leistungsfähigeres Stromnetz. Das Internet erschuf nicht selbstständig neue Protokolle massenhafter Einflussnahme im Modus autonomer Experimente. Moderne Systeme künstlicher Intelligenz hingegen sind bereits an der Herstellung ihrer eigenen Werkzeuge, ihrer eigenen Anwendungen, ihrer eigenen Schnittstellen und ihrer eigenen Skalierungsmechanismen beteiligt.
Die Bremse: Warum die Branche beschleunigen kann, aber kaum anhalten kann
Die zentrale Formel von Anthropic ist äußerst einfach: Die Branche der künstlichen Intelligenz hat ein Gaspedal, aber keine Bremse. Das Gaspedal sind Risikokapital, Rechenzentren, Grafikbeschleuniger, Cloud-Infrastruktur, Modellwettlauf, Unternehmensverträge, militärisches Interesse, Börsenerwartungen, Konkurrenz zwischen den Vereinigten Staaten und China, Druck von Investoren und der Geschwindigkeitskult im Silicon Valley.
Die Bremse ist etwas völlig anderes. Sie besteht aus unabhängiger Überprüfung, verpflichtenden Tests vor der Veröffentlichung, Kontrolle von Rechenclustern, Berichtspflichten für Trainingsläufe, Modellkarten, Angriffstests durch eigene Prüfteams, Cybersicherheit der Modellgewichte, Ausfallmechanismen, rechtlicher Verantwortung für autonome Handlungen von Agenten, internationalen Inspektionsmechanismen, Standards für Grenzsysteme künstlicher Intelligenz und politischer Bereitschaft zu sagen: „Bis hierher und nicht weiter, solange die Beherrschbarkeit nicht bewiesen ist.“
Das Problem besteht darin, dass die Bremse der Ökonomie des Wettrennens widerspricht. Wenn ein Unternehmen freiwillig langsamer wird, während ein Konkurrent das Training eines neuen Modells fortsetzt, bestraft der Markt den Vorsichtigen. Wenn ein Staat strenge Beschränkungen einführt, während ein anderer im Modus maximaler Beschleunigung bleibt, entsteht strategische Ungleichheit. Wenn geschlossene Labore einer Pause zustimmen, offene oder staatliche Strukturen aber im Schatten weiter experimentieren, wird die Pause zu einem Geschenk an weniger verantwortungsvolle Akteure.
Genau deshalb spricht Anthropic nicht romantisch davon, „alles anzuhalten“, sondern von einem koordinierten und überprüfbaren Mechanismus. Ohne Überprüfung ist jede Pause sinnlos. Doch gerade die Überprüfung ist im Bereich der künstlichen Intelligenz schwieriger als im nuklearen Bereich. Einen Raketensilo kann man nur schwer verstecken. Eine Urananreicherungsanlage hinterlässt physische Spuren. Das Training eines Modells dagegen kann über Cloud-Kapazitäten verteilt, hinter kommerziellen Aufgaben verborgen, in Etappen aufgespalten, als Forschungsrechnen getarnt oder in eine Rechtsordnung mit minimaler Kontrolle verlagert werden.
Die Hauptgefahr ist nicht die „böse künstliche Intelligenz“, sondern Menschen mit sehr mächtiger künstlicher Intelligenz
Der schwächste Teil der öffentlichen Debatten über künstliche Intelligenz ist die Fixierung auf das Bild der rebellierenden Maschine. In der Praxis werden die ersten und wahrscheinlichsten Risiken keine fantastischen Szenarien sein, sondern sehr irdische Formen des Missbrauchs.
Künstliche Intelligenz verstärkt bereits Cyberaufklärung, automatisiertes Abgreifen von Zugangsdaten, Suche nach Schwachstellen, Erzeugung schädlichen Codes, personalisierte Propaganda, politische Einflussoperationen, Massenproduktion synthetischer Inhalte, Nachahmung von Experten, Manipulation gesellschaftlicher Gruppen und Automatisierung bürokratischer Kontrolle. Je autonomer Agenten künstlicher Intelligenz werden, desto weniger Menschen sind nötig, um komplexe Operationen durchzuführen. Früher brauchte man für eine groß angelegte Desinformationskampagne ein Team: Analysten, Texter, Übersetzer, Designer, Zielgruppenexperten und Netzwerkverwalter. Heute lässt sich ein erheblicher Teil dieses Fließbands automatisieren.
Besonders gefährlich ist die Verbindung „Modell plus Werkzeuge“. Solange ein Sprachmodell nur in einem Dialogfenster antwortet, bleibt sein Risiko durch die Schnittstelle begrenzt. Wenn es aber Zugriff auf einen Browser, ein Terminal, eine Unternehmensdatenbank, E-Mail, Zahlungssysteme, Kundenverwaltung, Cloud-Infrastruktur, Codeverzeichnisse und Programmierschnittstellen externer Dienste erhält, verwandelt es sich in einen Agenten. Ein solcher Agent schreibt nicht mehr nur Text. Er handelt.
Im technischen Sinn bedeutet das den Übergang von erzeugender künstlicher Intelligenz zu handelnder künstlicher Intelligenz. Das Modell erhält ein Ziel, plant Schritte, ruft Werkzeuge auf, prüft Zwischenergebnisse, korrigiert Fehler und setzt den Zyklus fort. Untersuchungen der Architektur von Claude Code zeigen, dass moderne agentische Systeme um einen wiederkehrenden Kreislauf herum gebaut sind: Das Modell analysiert den Zustand, wählt ein Werkzeug, führt eine Handlung aus und gibt das Ergebnis wieder in den Kontext zurück. Um diesen Kern herum entstehen Berechtigungssysteme, Sicherheitsklassifikatoren, Kontextverwaltung, isolierte Arbeitsumgebungen und Protokollierungsmechanismen.
Das ist kein „Bewusstsein“. Das ist Automatisierung von Handlung. Doch für die Welt der Sicherheit ist der Unterschied manchmal nicht so wichtig. Wenn ein System selbstständig eine Schwachstelle finden, einen Angriffscode schreiben, Befehle ausführen, Dateien verändern und Folgen verschleiern kann, wird die Frage nach seiner „Innenwelt“ zweitrangig. Entscheidend ist, wer es gestartet hat, welche Zugriffsrechte es besitzt, wer Verantwortung trägt und ob man es stoppen kann.
Die Wirtschaft gerät unter Druck: Künstliche Intelligenz vernichtet Arbeit nicht sofort - sie verändert den Preis von Kompetenz
Eine weitere Risikozone ist der Arbeitsmarkt. In der öffentlichen Rhetorik wird meist gefragt: „Wird künstliche Intelligenz Menschen ersetzen?“ Das ist eine zu grobe Frage. Die genauere Formel lautet anders: Welche Arten menschlicher Arbeit verlieren ihre Einzigartigkeit, welche werden billiger, welche werden stärker, und welche verwandeln sich in Aufsicht über automatisierte Systeme?
Daten des Anthropic Economic Index, die auf der Analyse von mehr als vier Millionen Gesprächen mit Claude beruhen, zeigen, dass die Nutzung künstlicher Intelligenz besonders stark auf Programmierung und schriftliche Aufgaben konzentriert ist: Zusammen machen sie fast die Hälfte der gesamten erfassten Aktivität aus. Zugleich nutzen etwa 36 Prozent der Berufe künstliche Intelligenz bereits für mindestens ein Viertel der ihnen zugeordneten Aufgaben. In 57 Prozent der Fälle ging es um die Verstärkung menschlicher Tätigkeit, in 43 Prozent um die Automatisierung der Aufgabenerledigung mit minimaler Beteiligung des Menschen.
Das ist eine wichtige Zahl. Sie zeigt, dass künstliche Intelligenz nicht einfach „hilft“. Sie tritt bereits als Mechanismus der Neuverteilung von Produktivität in die Wirtschaft ein. Ein guter Spezialist wird mit künstlicher Intelligenz schneller. Ein durchschnittlicher Spezialist kann mit künstlicher Intelligenz Arbeit leisten, für die früher ein Team erforderlich war. Ein Unternehmen mit künstlicher Intelligenz kann weniger Einstiegspositionen besetzen. Für Berufseinsteiger wird es schwieriger, in eine Profession hineinzukommen, weil Routineaufgaben, an denen früher junge Mitarbeiter lernten, automatisiert werden.
Besonders dramatisch ist die Lage in der Programmierung. Eine Untersuchung zur Einführung von Claude Code auf Grundlage von GitHub-Daten für die Jahre 2025 und 2026 zeigt eine wachsende Aktivität von Entwicklern nach dem Auftreten dieses Werkzeugs künstlicher Intelligenz: mehr monatliche Codeeinreichungen, eine größere Zahl von Repositorien und eine zunehmende Vielfalt der verwendeten Programmiersprachen. Das ist nicht in jedem einzelnen Fall ein endgültiger Kausalitätsbeweis, aber das Signal ist eindeutig: Künstliche Intelligenz verändert das Verhalten von Entwicklern und senkt die Eintrittsbarrieren in neue technologische Bereiche.
Der nächste Schlag wird nicht nur Programmierer treffen. Unter Druck geraten Analysten, Übersetzer, Redakteure, Juristen auf Einstiegsniveau, Berater, Vermarkter, Mitarbeiter im Kundendienst, Buchhaltungsassistenten, Projektkoordinatoren, Inhaltsverwalter und Fachleute für Regelkonformität. Doch verschwinden werden nicht ganze Berufe, sondern einzelne Aufgaben innerhalb von Berufen. Genau deshalb werden nicht jene gewinnen, die „ein Programm kennen“, sondern jene, die Aufgaben richtig stellen, Ergebnisse prüfen, das Fachgebiet verstehen, den strategischen Zusammenhang sehen und eine schöne Antwort nicht mit einer belastbaren Schlussfolgerung verwechseln.
Warum Systeme künstlicher Intelligenz schwerer zu regulieren sind als Öl, Banken oder Atomtechnik
Befürworter strenger Kontrolle lieben historische Analogien: Atomwaffen, Luftfahrt, Arzneimittel, Finanzwesen, Ölindustrie. Alle diese Bereiche durchliefen Katastrophen, Krisen und politischen Druck, bevor sie regulatorische Rahmen erhielten. Doch künstliche Intelligenz unterscheidet sich von ihnen in mehreren Punkten.
Erstens ist künstliche Intelligenz eine Allzwecktechnologie. Sie ist nicht auf eine Branche beschränkt. Ein und dasselbe Modell kann Code schreiben, medizinische Daten analysieren, in der Rechtspraxis helfen, Werbetexte verfassen, Proteine modellieren, betrügerische Nachrichten erzeugen, Roboter steuern und mit Kunden verhandeln.
Zweitens skaliert künstliche Intelligenz digital. Ein Fehler in einem Flugzeug bleibt ein Fehler in einem Flugzeug. Ein Fehler in einem massenhaft eingesetzten Modell kann sofort in Millionen von Nutzersitzungen auftauchen.
Drittens ist die Grenze zwischen Forschung, Produkt und Infrastruktur verwischt. Ein Labor kann ein Modell als Forschung bezeichnen, ein junges Unternehmen als kommerzielles Produkt, ein Staat als strategische Ressource und ein Nutzer als Alltagswerkzeug. Doch die technische Grundlage kann dieselbe sein.
Viertens sind viele Risiken nicht lokal, sondern systemisch. Ein schwaches Modell in den Händen von Millionen Nutzern kann mehr Schaden anrichten als ein starkes Modell in einem geschlossenen Umfeld. Und umgekehrt: Ein extrem leistungsfähiges Modell in einem militärischen oder nachrichtendienstlichen System kann auch ohne Massenzugang zu einem Faktor strategischer Instabilität werden.
Fünftens lässt sich die Prüfung künstlicher Intelligenz nicht auf einen einzigen Test reduzieren. Ein Modell kann eine standardisierte Leistungsprüfung bestehen und in der realen Umgebung scheitern. Es kann unter Laborbedingungen Sicherheit demonstrieren und sich bei komplexen Eingriffen in die Eingabe, langem Kontext, Werkzeugzugang oder Interaktion mit anderen Agenten anders verhalten.
Genau deshalb sprechen moderne Standards immer häufiger nicht von einem „Sicherheitszertifikat“, sondern vom Lebenszyklus des Risikomanagements: Bedrohungsmodellierung, Angriffstests durch Prüfteams, Bewertungsumgebungen, Meldung von Zwischenfällen, Überwachung, Rücknahmeverfahren, Zugriffskontrolle, Sicherheit der Modellgewichte, sichere Bereitstellung, menschliche Kontrolle im Arbeitsablauf und Prüfprotokolle. Das National Institute of Standards and Technology beschreibt in seinem Profil für das Risikomanagement erzeugender künstlicher Intelligenz solche Systeme ausdrücklich als Gegenstand ständiger Bewertung und Steuerung, nicht als Objekt einer einmaligen Prüfung vor der Veröffentlichung.
Europa baut bereits einen Rechtsrahmen. Die Vereinigten Staaten balancieren noch zwischen Beschleunigung und Kontrolle
Die Europäische Union hat als Erste versucht, die Steuerung künstlicher Intelligenz in ein umfassendes Rechtssystem zu verwandeln. Das Gesetz der Europäischen Union über künstliche Intelligenz führt bereits stufenweise Verpflichtungen ein: Verbotene Praktiken und Anforderungen an die Kompetenz im Umgang mit künstlicher Intelligenz gelten seit dem 2. Februar 2025, Regeln für Modelle mit allgemeinem Verwendungszweck seit dem 2. August 2025, während ein Teil der Anforderungen an Hochrisikosysteme später wirksam wird, mit einer Übergangsfrist bis 2028.
Das ist kein ideales Modell. Der europäische Ansatz wird wegen seiner Komplexität, der bürokratischen Belastung und des Risikos einer Innovationsbremse kritisiert. Sein Vorteil besteht jedoch darin, dass er zumindest anerkennt: Künstliche Intelligenz ist nicht einfach ein Markt für Anwendungen, sondern eine Infrastruktur von Macht, Sicherheit und Menschenrechten. Modelle mit allgemeinem Verwendungszweck brauchen ein besonderes Regime, weil sie in Tausende nachgelagerte Anwendungen eingebaut werden können, bei denen der ursprüngliche Entwickler nicht mehr jede konkrete Nutzungsform kontrolliert.
Die Vereinigten Staaten handeln anders. Das amerikanische Modell stützt sich traditionell stärker auf freiwillige Standards, Partnerschaft zwischen Staat und Laboren, nationale Sicherheit und Wettbewerbslogik. Das Nationale Institut für Standards und Technologie schlägt Rahmenwerke für das Risikomanagement vor, doch sie sind weitgehend freiwillig. Gleichzeitig kann Washington es sich nicht leisten, die eigenen Unternehmen übermäßig zu bremsen, weil künstliche Intelligenz zu einem Bestandteil der strategischen Rivalität mit China geworden ist.
China wiederum betrachtet künstliche Intelligenz als Instrument des industriellen Sprungs, der staatlichen Steuerung, der militärischen Modernisierung und der ideologischen Kontrolle. Deshalb stößt die Idee einer globalen Pause auf eine harte geopolitische Realität: Keine Großmacht will in einer Welt aufwachen, in der der Konkurrent als Erster eine Technologie erhalten hat, die Wissenschaft, Aufklärung, Cyberfähigkeiten, Robotik und Verteidigungsplanung beschleunigen kann.
Eine freiwillige Pause ist fast unmöglich. Eine gesteuerte Verlangsamung ist jedoch notwendig
Das naivste Szenario besteht darin, sich vorzustellen, dass die führenden Labore sich einfach darauf einigen, „vorsichtiger zu sein“. Das wird nicht funktionieren. Die Einsätze sind zu hoch. Der Markt für künstliche Intelligenz ist bereits mit Bewertungen in Hunderten Milliarden Dollar, künftigen Börsengängen, Staatsaufträgen, Cloud-Giganten, Chipherstellern und Erwartungen der Finanzmärkte verbunden. Zu viele Akteure haben ein Interesse an Beschleunigung.
Im Jahr 2025 hatten nach Angaben des Internationalen Berichts zur Sicherheit künstlicher Intelligenz 2026 bereits zwölf Unternehmen eigene Sicherheitsrahmen für fortgeschrittene Grenzsysteme künstlicher Intelligenz veröffentlicht oder aktualisiert. Das ist besser als nichts. Doch die meisten dieser Initiativen bleiben freiwillig. Freiwillige Sicherheit funktioniert gut bis zu dem ersten Moment, in dem Sicherheit beginnt, dem Wettbewerbsvorteil im Weg zu stehen.
Deshalb sollte es nicht um eine romantische Anhaltung des Fortschritts gehen, sondern um ein strenges System von Risikostufen. Zum Beispiel:
Erste Stufe - gewöhnliche Modelle ohne Zugang zu kritischen Werkzeugen.
Zweite Stufe - Modelle mit agentischen Funktionen, die in einer begrenzten Umgebung arbeiten.
Dritte Stufe - Modelle, die autonom Code schreiben und ausführen, mit externen Systemen arbeiten und cybertechnische Analysen durchführen können.
Vierte Stufe - Modelle mit Anzeichen gefährlicher Fähigkeiten: Unterstützung beim biologischen Entwurf, autonome Cyberoperationen, Umgehung von Schutzmechanismen, strategische Planung, skalierbare Einflussoperationen.
Fünfte Stufe - Modelle, die die Entwicklung der nächsten Modelle erheblich beschleunigen und die Rolle des Menschen im Forschungszyklus verringern können.
Für jede Stufe müssen unterschiedliche Anforderungen gelten: von einfacher Dokumentation bis zu verpflichtender externer Prüfung, Lizenzierung von Rechenläufen, Kontrolle des Zugangs zu Modellgewichten, Prüfung auf chemische, biologische, radiologische und nukleare Risiken, Tests auf autonomes Verhalten, cybertechnische Gutachten und ein Mechanismus für die Notabschaltung.
Offener Quellcode - Freiheit oder Verwundbarkeit?
Ein gesondertes Problem sind offene Modelle. Sie haben ein starkes Argument: Offenheit verringert das Monopol der großen Technologiekonzerne, verschafft Universitäten, kleinen Unternehmen und unabhängigen Entwicklern Zugang zur Technologie, erhöht die Transparenz und beschleunigt Innovation. Doch Offenheit hat eine dunkle Seite: Wenn ein Modell mit gefährlichen Fähigkeiten frei veröffentlicht wird, kann man es nicht mehr zurückholen.
Ein geschlossenes Modell kann abgeschaltet, begrenzt, aktualisiert, durch Entzug des Zugangs zu seiner Programmierschnittstelle kontrolliert, mit stärkeren Filtern versehen und überwacht werden. Offene Modellgewichte, die ins Netz gelangt sind, beginnen ein Eigenleben. Man kann sie nachtrainieren, Beschränkungen entfernen, in schädliche Werkzeuge einbauen, lokal starten und außerhalb des Sichtfelds des Anbieters verwenden.
Das bedeutet nicht, dass alle offenen Modelle gefährlich sind. Es bedeutet aber, dass die Frage der Offenheit vom Fähigkeitsniveau abhängen muss. Man darf nicht dieselbe Philosophie auf ein kleines Bildungsmodell und auf ein System anwenden, das bei der Erstellung schädlicher Software, beim Entwurf biologischer Experimente oder bei der automatisierten Suche nach Schwachstellen in kritischer Infrastruktur helfen kann.
Die eigentliche Frage lautet: Wer kontrolliert die Kontrolleure?
Die Warnung von Anthropic ruft berechtigten Skeptizismus hervor. Wenn eines der teuersten Unternehmen der Branche zur Verlangsamung aufruft, sehen Kritiker darin nicht nur Sorge um die Menschheit, sondern auch unternehmerisches Kalkül. Wer bereits nach vorn ausgebrochen ist, hat ein Interesse daran, das eigene Entwicklungsniveau in eine regulatorische Norm zu verwandeln und den Aufholenden das Leben zu erschweren. Genau deshalb dürfen Regeln für künstliche Intelligenz nicht von den Laboren selbst in deren kommerziellem Interesse geschrieben werden.
Doch das gegenteilige Extrem ist noch gefährlicher. Man darf eine Warnung nicht nur deshalb verwerfen, weil sie von einem interessengeleiteten Akteur ausgesprochen wird. Insider sehen tatsächlich Dinge, die die Gesellschaft nicht sieht: die Geschwindigkeit des technischen Fortschritts, interne Messwerte, das Verhalten von Modellen in geschlossenen Tests, den Automatisierungsgrad der Forschung, reale Anfragen staatlicher Strukturen, den Druck von Investoren und die Möglichkeiten agentischer Systeme.
Der richtige Ansatz besteht darin, den Unternehmen nicht einfach zu glauben, ihre Signale aber auch nicht zu ignorieren. Notwendig sind unabhängige Bewertungsinstitutionen, staatliche Stellen für die Sicherheit künstlicher Intelligenz, internationale Expertengremien, Zugang von Forschern zu Modelltests, geschützte Kanäle zur Offenlegung von Zwischenfällen, verpflichtende Veröffentlichung zentraler Ergebnisse von Sicherheitsbewertungen und ein Haftungsregime für das Verschweigen gefährlicher Fähigkeiten.
Die Kontrolle über künstliche Intelligenz darf weder Konzernen noch Bürokratie, Militärs oder Aktivisten überlassen werden. Sie muss ein mehrstufiges System sein, mit Interessenkonflikten, gegenseitiger Überprüfung und technischer Kompetenz.
Künstliche Intelligenz muss man nicht fürchten. Man muss sie politisch und technisch zähmen
Der Hauptfehler besteht darin, die Debatte auf die Wahl zwischen Panik und Begeisterung zu reduzieren. Künstliche Intelligenz bringt bereits enormen Nutzen: Sie beschleunigt Programmierung, hilft Ärzten bei der Analyse von Daten, erhöht die Zugänglichkeit von Bildung, verbessert Übersetzung, automatisiert Routine, hilft Wissenschaftlern beim Umgang mit großen Informationsmengen, erweitert die Möglichkeiten von Menschen mit Behinderungen und senkt Eintrittsbarrieren in komplexe Berufe.
Doch eine Technologie dieses Ausmaßes kann sich nicht nach dem Prinzip entwickeln: „Zuerst veröffentlichen, später verstehen.“ Genau so trat die Gesellschaft bereits in die Ära der sozialen Netzwerke ein: zuerst Begeisterung über die Freiheit der Kommunikation, danach algorithmische Radikalisierung, Informationsblasen, politische Manipulation, Verfall der öffentlichen Debatte und Vertrauenskrise. Bei künstlicher Intelligenz kann der Preis des Fehlers höher sein.
Eine Bremse bedeutet kein Verbot des Fortschritts. Sie bedeutet das Recht der Gesellschaft, nicht Passagier in einem Fahrzeug zu sein, das von Risikokapitalfonds, Laboren und geopolitischen Stäben gesteuert wird. Sie bedeutet, dass die Geschwindigkeit der Einführung nicht nur davon abhängen darf, was technisch möglich ist, sondern auch davon, was sozial, politisch und sicherheitlich zulässig ist.
Die Welt tritt in eine Epoche ein, in der Intelligenz zur Infrastruktur der Macht wird
Im einundzwanzigsten Jahrhundert wird künstliche Intelligenz das sein, was im zwanzigsten Jahrhundert Öl, Atomtechnik, Luftfahrt, Rechentechnik und Internet zugleich waren. Sie wird zur Ressource wirtschaftlichen Wachstums, zur Waffe strategischen Vorteils, zum Instrument der Überwachung, zur Fabrik von Bedeutungen, zum Motor der Wissenschaft und zum Mechanismus der Steuerung.
Genau deshalb darf die Frage von Anthropic nicht auf das Unternehmensdrama einer einzelnen Firma reduziert werden. Sie ist das Symptom eines tieferen Bruchs. Die Menschheit erschafft Systeme, die beginnen, an der Erschaffung der nächsten Generation solcher Systeme mitzuwirken. Dieser Prozess kann Durchbrüche in Medizin, Energie, Materialwissenschaft, Bildung und Produktivität ermöglichen. Doch er kann ebenso Cyberwaffen neuen Typs, einen Arbeitsmarkt mit drastisch entwerteten Berufen, autoritäre Systeme der Totalüberwachung und eine Informationsumgebung hervorbringen, in der der Mensch nicht mehr zwischen Wirklichkeit und synthetischer Nachahmung unterscheiden kann.
Die wirkliche Weggabelung verläuft nicht zwischen künstlicher Intelligenz und dem Fehlen künstlicher Intelligenz. Diese Weggabelung gibt es nicht mehr. Künstliche Intelligenz bleibt. Die Frage ist eine andere: Wird sie sich als beherrschbare Infrastruktur unter Recht, Prüfung und politischer Verantwortung entwickeln - oder als Wettlauf geschlossener Labore, bei dem jede nächste Veröffentlichung mit der Angst gerechtfertigt wird, hinter dem Konkurrenten zurückzubleiben?
Heute ist das Gaspedal fast bis zum Boden durchgedrückt. Rechenzentren werden gebaut. Modelle werden skaliert. Agenten erhalten Werkzeuge. Code wird von Maschinen geschrieben. Die Wirtschaft stellt sich um. Staaten prüfen militärische und nachrichtendienstliche Anwendungen.
Nun lautet die zentrale Frage in aller Härte: Wird die Menschheit rechtzeitig eine Bremse einbauen, bevor die Geschwindigkeit größer wird als ihre Fähigkeit zur Steuerung?