Während Brüssel bereits begonnen hat, gefälschte Inhalte mit Geldbußen zu ahnden, und Brasilia noch immer über einzelne Gesetzesparagrafen streitet, haben die Algorithmen von YouTube ihr ideales Opfer längst gefunden: Menschen über siebzig.
Eine 82-jährige Brasilianerin stieß eines Tages auf YouTube auf ein Video, in dem ein Mann im weißen Kittel mit ruhiger Stimme erklärte, wie die richtige Ernährung dabei helfen könne, die Sehkraft im Alter zu erhalten. Sie glaubte ihm sofort und ohne jeden Vorbehalt.
Die Plattform hatte das Video ordnungsgemäß als mit künstlicher Intelligenz erstellt gekennzeichnet. Der Hinweis befand sich direkt oberhalb des Wiedergabefensters. Die Frau bemerkte diese Kennzeichnung entweder nicht oder maß ihr keine Bedeutung bei: Sie war überzeugt, einen echten Arzt vor sich zu haben.
Diesen Arzt gab es jedoch überhaupt nicht. Sein Gesicht, seine Stimme und seine Sprechweise waren von einem Algorithmus erzeugt worden, und der Kanal, auf dem das Video erschien, verdiente sein Geld nicht mit der Behandlung von Patienten, sondern damit, deren Ängste in Werbeeinblendungen zu verwandeln.
Hinter diesem einzelnen Video steht weder ein Zufall noch ein exzentrischer Liebhaber neuronaler Netze, sondern ein vollständig reproduzierbares kommerzielles Modell, das sich mit gleichem Erfolg in jeder Sprache und für praktisch jede Krankheit einsetzen lässt.
70 Millionen Aufrufe: Falsche Medizin ist zu einer Industrie geworden
Dieser Fall ist keine Anomalie, sondern ein Symptom einer ganzen Industrie.
Eine Untersuchung der brasilianischen gemeinnützigen Organisation CTRL+Z, die auf Datenjournalismus spezialisiert ist, identifizierte 29 portugiesischsprachige YouTube-Kanäle, die von künstlicher Intelligenz erzeugte „Ärzte“ einsetzten und zusammen mindestens 70 Millionen Aufrufe erzielten.
Eine parallele Untersuchung fand mindestens 50 Anleitungsvideos in neun Sprachen: Portugiesisch, Englisch, Hindi, Spanisch, Französisch, Italienisch, Polnisch, Deutsch und Türkisch. Darin wird detailliert erklärt, wie sich ein solcher Kanal von Grund auf aufbauen lässt.
Das Modell hat die Grenzen eines einzelnen Landes und einer einzelnen Sprache längst überschritten. Es ist zu einem Exportprodukt geworden, zu einer Franchise der Desinformation, die sich überall auf der Welt an jede Zielgruppe im Rentenalter anpassen lässt.
Scharlatane gab es schon immer. Doch heute brauchen sie nicht einmal mehr einen echten Menschen
Dieses Geschäftsmodell wurde nicht erst gestern erfunden.
Die Industrie dubioser Wundermittel florierte bereits in der englischsprachigen Presse an der Wende vom 19. zum 20. Jahrhundert, als Zeitungsanzeigen völlig ungeprüft Elixiere gegen Krebs und Tuberkulose verkauften. Das Radio der 1930er Jahre brachte seine eigenen „Radioärzte“ hervor, die mit zweifelhaften medizinischen Qualifikationen direkt auf Sendung gingen, bis die amerikanischen Bundesbehörden begannen, ihnen in größerem Umfang die Zulassungen zu entziehen.
Jede neue Kommunikationstechnologie, ob Zeitung, Radio, Fernsehen oder heute generative künstliche Intelligenz, durchläuft dieselbe Phase: eine Zeit, in der sich Inhalte schneller verbreiten, als gesellschaftliche und rechtliche Schutzmechanismen gegen Missbrauch entstehen können.
Der bekannteste Fall des vergangenen Jahrhunderts war der amerikanische Radioarzt John Romulus Brinkley. In den 1930er Jahren warb er ohne medizinische Ausbildung über einen der damals leistungsstärksten grenznahen Radiosender für selbst entwickelte Verjüngungsoperationen. Er hatte bereits ein Vermögen und einen Ruf aufgebaut, die mit denen eines großen Pharmaunternehmens vergleichbar waren, bevor die Behörden ihm schließlich die Zulassung entzogen.
Der Unterschied besteht darin, dass frühere Scharlatane zumindest einen lebenden Menschen mit einer einigermaßen glaubwürdigen Legende benötigten. Die heutige Variante des Betrugs kommt hingegen völlig ohne reale Darsteller aus: Gesicht, Stimme und Biografie des „Arztes“ werden innerhalb weniger Minuten von einem Algorithmus zusammengesetzt und gleichzeitig in neun Sprachen vervielfältigt.
Zuerst macht man Ihnen Angst vor dem Tod. Danach verkauft man Ihnen Ingwer und Nahrungsergänzungsmittel
Der Aufbau solcher Videos ist fast immer derselbe.
Eine Gestalt im weißen Kittel, manchmal vollständig synthetisch, manchmal die digitale Kopie des Gesichts eines echten und ahnungslosen Arztes, erklärt, dass ein alltägliches Lebensmittel, ein Medikament oder eine gewöhnliche Gewohnheit den Zuschauer insgeheim umbringe.
Danach folgt das Versprechen eines angeblichen Wundermittels, das zu Unrecht in Vergessenheit geraten sei: Ingwer, Süßkartoffeln oder eine bestimmte Kombination von Heilkräutern.
Einer der Anbieter von Schulungskursen für die Betreiber solcher Kanäle behauptete öffentlich, ein derartiges Geschäft könne monatlich bis zu 30.000 Real, also etwa 5.800 US-Dollar, einbringen.
Die Einnahmen stammen aus drei Quellen: Werbeeinblendungen auf YouTube, dem Verkauf elektronischer Bücher und Vermittlungsverweisen für „natürliche“ Nahrungsergänzungsmittel.
Derselbe Kursanbieter zeigte seinen Schülern, wie sie den alarmierenden Ton verschärfen und Zuschauer zu sofortigem Handeln drängen können, bis hin zu Formulierungen über das Risiko, am nächsten Morgen möglicherweise nicht mehr aufzuwachen.
Die Aufmerksamkeitsökonomie funktioniert hier gerade deshalb so zuverlässig, weil die Angst vor dem Tod ein wesentlich stärkerer Antrieb für Seitenaufrufe ist als jede rationale Empfehlung.
Wer an der Angst des Patienten verdient
Verfolgt man den Geldfluss bis zum Ende der Kette, ergibt sich ein wesentlich vielschichtigeres Bild als das eines einzelnen Betrügers mit einem Rechner.
YouTube erhält seinen Anteil an den Werbeeinnahmen unabhängig davon, ob im Video ein echter oder ein synthetischer Arzt erscheint. Solange keine Beschwerde vorliegt, fördert der Empfehlungsalgorithmus beide Arten von Videos gleichermaßen bereitwillig, weil er die Beteiligung der Nutzer bewertet und nicht die Wahrheit der Aussagen.
Dienste zum Klonen von Stimmen und zur Erzeugung künstlicher Gesichter, auf denen solche Kanäle beruhen, tragen in der überwiegenden Mehrheit der Fälle keinerlei Verantwortung dafür, wie ihre Produkte verwendet werden. Ihr Geschäftsmodell beruht auf Abonnements und nicht auf der Kontrolle der von Kunden erzeugten Inhalte.
Am Ende der Kette stehen schließlich die Verkäufer von Nahrungsergänzungsmitteln und die Verfasser elektronischer Bücher. Ihre Gewinne hängen unmittelbar davon ab, wie beunruhigend die Überschrift im vorherigen Glied der Kette gestaltet wurde.
Jeder Beteiligte dieser Kette kann sich für sich genommen formal für unschuldig erklären und hat zugleich ein größtmögliches Interesse daran, dass das gesamte System weiter funktioniert.
Die Anleitung zur Erzeugung von Angst wird separat verkauft
Die Geschichte eines der Anbieter solcher Schulungskurse ist für sich genommen aufschlussreich.
Nachdem Journalisten Kontakt zu ihm aufgenommen hatten, wurde der öffentliche Zugang zu einem der Demonstrationsvideos gesperrt. Der Anbieter erklärte anschließend, die gezeigten Kanäle seien lediglich Beispiele gewesen und hätten ihm persönlich nicht gehört. Nach eigener Darstellung vermittle er lediglich, wie sich mit künstlicher Intelligenz Informationsinhalte erstellen ließen, nicht aber Inhalte, die eine ärztliche Beratung ersetzen sollten. Zudem habe er niemals dazu auffordern wollen, gegen die Regeln der Plattform zu verstoßen.
Formal mag das sogar zutreffen. Ein Kurs darüber, wie sich auf YouTube Geld verdienen lässt, ist juristisch nicht identisch mit einem konkreten betrügerischen Video.
Doch eine Anleitung, die zeigt, wie sich die Angst eines Zuschauers mit der Warnung steigern lässt, er könne am nächsten Morgen möglicherweise nicht mehr aufwachen, funktioniert unabhängig davon, wer sie später einsetzt. Der Verfasser verdient am Verkauf seines Kurses, während sich die moralische und rechtliche Verantwortung für das Endergebnis auf Dutzende anonyme Schüler verteilt, von denen jeder formal eigenständig gehandelt hat.
Ein Markt von 220 Milliarden US-Dollar: Warum „KI-Ärzte“ gerade jetzt auftauchen
Die Branche, in die ein erheblicher Teil dieser Einnahmen letztlich fließt, ist keineswegs ein Randphänomen.
Nach Schätzungen von Branchenstudien wird der weltweite Markt für Nahrungsergänzungsmittel im Jahr 2026 ein Volumen von rund 220 Milliarden US-Dollar erreichen und mindestens bis zur Mitte des kommenden Jahrzehnts jährlich um sieben bis neun Prozent wachsen. Einer der wichtigsten Wachstumstreiber ist die Nachfrage nach Produkten für gesundes Altern.
Synthetische Ärzte erzeugen diese Nachfrage nicht, sondern parasitieren an ihr. Sie nutzen das bereits bestehende milliardenschwere Interesse der Verbraucher an Alternativen zur klassischen Medizin und ergänzen es lediglich um eine neue Ebene: die künstlich erzeugte Autorität eines Mannes oder einer Frau im weißen Kittel, die ein Algorithmus nahezu kostenlos produziert.
Warum ältere Menschen zum wichtigsten Ziel geworden sind
Die Wahl der Zielgruppe ist kein Zufall.
Der Anteil der über Sechzigjährigen an der Weltbevölkerung wächst seit mehreren Jahrzehnten kontinuierlich. Die Werbeindustrie betrachtet diese Entwicklung längst nicht mehr als vorübergehende Mode, sondern als strukturelle Verschiebung der Nachfrage.
Nach Schätzungen der Vereinten Nationen wird im Jahr 2050 jeder sechste Mensch auf der Erde älter als 65 Jahre sein. Das ist nahezu doppelt so viel wie heute.
Für die Betreiber synthetischer medizinischer Kanäle handelt es sich dabei nicht um abstrakte Demografie, sondern um einen direkten Hinweis darauf, wohin Investitionen gelenkt werden sollten. Eine Zielgruppe, die heute noch als Nische gilt, wird bereits in einer Generation zu einer der größten Gruppen von Konsumenten von Videoinhalten überhaupt gehören.
Ältere Menschen verbringen mehr Zeit auf Videoplattformen, als vielfach angenommen wird, überprüfen Gesehenes seltener anhand unabhängiger Quellen und verfügen häufiger über frei verfügbares Einkommen, das sich für den Kauf beworbener Nahrungsergänzungsmittel abschöpfen lässt.
Die Produzenten solcher Inhalte bezeichnen ältere Zuschauer in ihren Schulungsmaterialien selbst offen als lukrative Marktnische. Nicht weil diese Menschen grundsätzlich leichtgläubig wären, sondern weil sie über Zeit, Geld und, für einen betrügerischen Verkaufstrichter besonders wichtig, über ein über Jahrzehnte gewachsenes Vertrauen in den Arzt im weißen Kittel verfügen, das aus der traditionellen medizinischen Praxis stammt.
Ein 85-jähriger Patient ersetzte sein Medikament durch Süßkartoffeln
Die Folgen bleiben nicht theoretisch.
Die Auswertung von rund 27.000 Kommentaren unter solchen Videos ergab Dutzende Fälle, in denen Zuschauer, die sich selbst als ältere Menschen bezeichneten, ihre tatsächliche medizinische Behandlung aufgrund synthetisch erzeugter Ratschläge veränderten.
Ein 85-jähriger Kommentator behauptet, Omeprazol, ein Medikament zur Hemmung der Magensäureproduktion, durch Süßkartoffeln ersetzt zu haben.
Eine 77-jährige Frau schreibt, sie sei seit drei Jahren nicht bei einem Arzt gewesen, und bedankt sich bei einem nicht existierenden Doktor für dessen Empfehlungen gegen Demenz.
Gastroenterologen, die um eine Einschätzung gebeten wurden, weisen auf zwei parallele Risiken hin. Ein Patient kann eine notwendige reale Diagnostik um entscheidende Wochen hinauszögern. Zugleich kann er sich durch ein wirkungsloses oder mit seiner bestehenden Therapie unvereinbares Mittel unmittelbar selbst schaden.
Angehörige erfahren häufig erst im Nachhinein, dass eine Behandlung ersetzt wurde, wenn nicht mehr der betrügerische Kanal die Rechnung präsentiert, sondern das Krankenhaus, in das der Patient wegen Komplikationen einer verspäteten Diagnose eingeliefert wird.
Die wichtigste Waffe des Betrügers ist nicht künstliche Intelligenz, sondern menschliche Angst
Die Methode, die in solchen Videos eingesetzt wird, ist aus Lehrbüchern des Marketings längst bekannt: eine scharf formulierte alarmierende Überschrift, die Ankündigung einer unmittelbar bevorstehenden Gefahr und die Forderung nach sofortigem Handeln. Sie gilt als einer der zuverlässigsten Wege, die rationale Überprüfung einer Behauptung zu umgehen. Ein verängstigter Zuschauer sucht zunächst nach einer sofortigen Lösung und nicht nach der Quelle der Information.
Ältere Zuschauer sind in diesem Sinne nicht grundsätzlich leichtgläubiger. Sie treffen derartige Entscheidungen jedoch häufiger allein und ohne die unmittelbare Möglichkeit, sich mit Angehörigen oder einem bekannten Arzt abzustimmen. Genau dieser Umstand verwandelt einen kurzen Schreckmoment in einen sofortigen Kauf, statt in eine Frage, über die später noch einmal nachgedacht wird.
Das Gesicht eines Arztes lässt sich heute innerhalb weniger Minuten stehlen
Eine weitere Form des Schadens besteht im Identitätsdiebstahl zulasten echter Ärzte.
Mindestens fünf Kanäle verwendeten ohne Genehmigung das Erscheinungsbild eines bekannten brasilianischen Gastroenterologen, um alarmierende Gesundheitsbehauptungen und angeblich natürliche Alternativen zu verschriebenen Medikamenten zu verbreiten. Der Arzt wandte sich an YouTube und erstattete bei der Polizei von São Paulo Anzeige.
Brasilianische Juristen weisen darauf hin, dass solche Aktivitäten formal unter die Straftatbestände des Betrugs und der Identitätsanmaßung fallen. Die Rechtsdurchsetzung bleibt jedoch systematisch hinter dem Ausmaß des Phänomens zurück. Während gegen einen Fall ermittelt wird, können die Algorithmen bereits Dutzende neue Kopien erzeugen.
Der Betrüger sitzt in einem Land, das Opfer in einem anderen und das Geld landet in einem dritten
Das Durcheinander verschiedener Rechtsordnungen verschärft das Problem auf struktureller Ebene.
Ein Kanal kann über ein Benutzerkonto in einem Land registriert sein, durch Werbealgorithmen auf Zuschauer in einem zweiten Land ausgerichtet werden und seine Einnahmen über Zahlungssysteme eines dritten Landes abwickeln. Weder die brasilianische Polizei noch eine europäische Aufsichtsbehörde noch YouTube selbst verfügen jeweils allein über ein Instrument, mit dem sich die gesamte Kette durch eine einzige Entscheidung unterbrechen ließe.
Internationale Koordinierungsmechanismen, von Arbeitsgruppen der Organisation für wirtschaftliche Zusammenarbeit und Entwicklung zur Regulierung künstlicher Intelligenz bis zu bilateralen Vereinbarungen zwischen nationalen Verbraucherschutzbehörden, befassen sich bislang vor allem mit allgemeinen Grundsätzen und nicht mit konkreten Verfahren für eine schnelle Reaktion auf grenzüberschreitenden medizinischen Betrug.
Von São Paulo bis Seoul: Das System funktioniert überall gleich
Das Problem ist keineswegs ausschließlich brasilianisch oder portugiesischsprachig.
Südkoreanische Aufsichtsbehörden räumten in diesem Sommer öffentlich ein, dass die geltende Gesetzgebung gegen Kanäle, die mit künstlicher Intelligenz Ärzte vortäuschen, nahezu machtlos ist. Ein Eingreifen ist gesetzlich nur dann möglich, wenn unmittelbar für ein konkretes Produkt geworben wird. Die Produzenten solcher Inhalte umgehen diese Bestimmung systematisch.
Ein südkoreanischer Kanal mit mehr als 36.000 Abonnenten behauptete wahrheitswidrig, mit einer großen Universitätsklinik verbunden zu sein, und veröffentlichte Videos mit Themen wie den sieben Gründen, aus denen ein Internist mit 25 Jahren Berufserfahrung täglich Essig trinke.
Die Struktur des Betrugs, synthetisch erzeugte Autorität verbunden mit einer juristischen Lücke, wird von São Paulo bis Seoul nahezu unverändert reproduziert, weil Technologie und Geschäftsmodell überall dieselben sind.
Lediglich die Sprache der Untertitel und die Nationalität des gestohlenen Gesichts ändern sich.
Milliarden von US-Dollar fließen an Betrüger. Und das ist nur der sichtbare Teil
Der größere Zusammenhang, in den sich dieses Phänomen einfügt, ist von beeindruckendem Ausmaß.
Nach Angaben der amerikanischen Bundeshandelskommission haben sich die gesamten Betrugsverluste von Amerikanern über 60 Jahren innerhalb von vier Jahren fast vervierfacht: von rund 600 Millionen US-Dollar im Jahr 2020 auf 2,4 Milliarden US-Dollar im Jahr 2024. Unter Berücksichtigung der Tatsache, dass ein großer Teil der Fälle überhaupt nicht gemeldet wird, schätzt die Behörde den tatsächlichen Schaden sogar auf bis zu 81,5 Milliarden US-Dollar.
Die amerikanische Bundespolizei verzeichnete in ihrem Bericht für 2025 für dieselbe Altersgruppe bereits gemeldete Verluste in Höhe von 7,748 Milliarden US-Dollar und mehr als 201.000 Betroffene. Das entspricht einem Anstieg um 59 Prozent gegenüber dem Vorjahr.
Davon bringt die Behörde 352 Millionen US-Dollar unmittelbar mit Betrugsfällen in Verbindung, bei denen künstliche Intelligenz eine entscheidende Rolle spielte.
Gefälschte Ärzte auf YouTube sind nur einer von vielen Armen dieser Industrie. Dieser Arm zielt jedoch unmittelbar auf die Gesundheit und nicht nur direkt auf das Geld der Opfer und ist deshalb potenziell tödlicher.
Zugleich räumen die amerikanischen Bundesbehörden selbst ein, dass das tatsächliche Ausmaß des Problems systematisch unterschätzt wird. Nach Einschätzung amerikanischer Aufsichtsbehörden meldet weniger als eines von zwanzig Opfern einen Betrugsfall. Die bestätigten Milliardenverluste stellen daher lediglich die Spitze eines Eisbergs dar, dessen gewaltiger Sockel statistisch unsichtbar bleibt.
YouTube löscht Kanäle. Aber erst nach Millionen von Aufrufen
Google, dem YouTube gehört, beschränkt sich auf eine formale Antwort. Das Unternehmen betont, dass die geltenden Regeln auch für Inhalte gelten, die mit künstlicher Intelligenz erstellt wurden, und medizinische Desinformation verbieten, die im realen Leben schweren Schaden verursachen kann.
Nachdem die Forscher dem Unternehmen die Ergebnisse ihrer Untersuchung vorgelegt hatten, löschte die Plattform mehrere der größten untersuchten Kanäle, die zusammen rund 41 Millionen Aufrufe erzielt hatten.
Der Grundsatz, dass Inhalte keinen schweren Schaden im realen Leben verursachen dürfen, klingt überzeugend, erweist sich jedoch als Instrument vorbeugender Kontrolle als kaum praktikabel. Das Unternehmen reagiert nachträglich auf konkrete Beschwerden, die mit Belegen untermauert sind, statt einen Filter aufzubauen, der die Veröffentlichung einer neuen Kopie verhindern könnte, bevor sie ihre ersten hunderttausend Aufrufe erreicht.
Seit Juli 2025 hat die Plattform ihre Regeln für sogenannte nicht authentische Inhalte formal verschärft. Videos zu sensiblen Themen, darunter Gesundheit, müssen direkt über dem Wiedergabefenster deutlich als synthetisch erzeugt gekennzeichnet werden.
Anfang 2026 waren von dieser Verschärfung 16 große Kanäle mit insgesamt 4,7 Milliarden Aufrufen und jährlichen Werbeeinnahmen von etwa zehn Millionen US-Dollar betroffen. Die meisten von ihnen waren allerdings nicht speziell wegen medizinischer Desinformation aufgefallen, sondern wegen gefälschter Filmvorschauen und allgemein massenhaft produzierter minderwertiger Inhalte aus künstlicher Intelligenz.
Besonders aufschlussreich ist gerade der Fall der Zuschauerin, die dem synthetischen Arzt glaubte. Der Hinweis über dem Video war vorhanden, doch er hielt sie nicht davon ab.
Eine Kennzeichnung kann die Plattform juristisch entlasten, schützt aber nicht zwangsläufig einen konkreten älteren Zuschauer, der in einer Zeit aufgewachsen ist, in der ein weißer Kittel auf dem Bildschirm automatisch als Zeichen medizinischer Kompetenz galt.
Warum Schutztechnologien den Täuschungstechnologien bereits unterlegen sind
Das technische Wettrennen zwischen der Erzeugung und der Erkennung synthetischer Inhalte entwickelt sich strukturell zum Nachteil der Schutzmechanismen.
Ein Branchenstandard zur Herkunft und Authentizität digitaler Inhalte, den YouTube und andere Plattformen schrittweise in ihre Kontrollsysteme integrieren, versieht Metadaten darüber, wie und womit eine Datei erstellt wurde, mit einer kryptografischen Signatur. Das Verfahren funktioniert jedoch nur dort, wo der Ersteller freiwillig einer Kennzeichnung über ein legales und registriertes Erzeugungswerkzeug zugestimmt hat.
Einen Betrüger, der nicht lizenzierte oder gezielt veränderte Modelle gerade deshalb verwendet, um diese Signatur zu umgehen, hindert das System an nichts. Er fügt die entsprechenden Metadaten schlicht nicht ein, zumal sie beim Hochladen ohnehin nicht zwingend vorgeschrieben sind.
Ein Erkennungssystem, das synthetische Inhalte erst nachträglich anhand visueller und akustischer Merkmale identifiziert, veraltet schneller, als es auf die nächste Generation der Erzeugungsmodelle trainiert werden kann. Kommerzielle Werkzeuge zur künstlichen Erzeugung von Stimmen und Gesichtern werden alle paar Monate aktualisiert, während Entwicklung und Überprüfung eines zuverlässigen Erkennungssystems mehrere Quartale beanspruchen.
Europa hat bereits Millionenstrafen eingeführt. Doch es gibt ein Problem
Die regulatorische Antwort kommt verspätet und äußerst uneinheitlich.
Am 2. August 2026, also vor weniger als einem Monat, trat in der Europäischen Union Artikel 50 des Gesetzes über künstliche Intelligenz in Kraft. Er verpflichtet Entwickler generativer Systeme erstmals dazu, synthetische Inhalte mit einer maschinenlesbaren Kennzeichnung zu versehen. Wer die Technologie zur Herstellung täuschend echter Fälschungen einsetzt, muss dies für die Zuschauer klar kenntlich machen.
Bei Verstößen drohen Geldbußen von bis zu 15 Millionen Euro oder drei Prozent des weltweiten Jahresumsatzes, je nachdem, welcher Betrag höher ist.
Den Verhaltenskodex, der die technischen Standards für diese Kennzeichnung im Einzelnen festlegt, arbeitet die Europäische Kommission noch immer aus. Der erste Entwurf erschien im Dezember 2025, die Konsultationen dazu endeten am 3. Juni 2026, die endgültige Fassung wird im weiteren Verlauf dieses Jahres erwartet.
Mit anderen Worten: Das Gesetz gilt formal bereits, doch die Instrumente zu seiner praktischen Durchsetzung befinden sich noch im Aufbau.
Brasilien wurde zur Fabrik des Problems, während das Gesetz im Parlament feststeckt
In Brasilien, woher die meisten der beschriebenen Kanäle stammen, ist die Lage umgekehrt: Dort hinkt das Recht der technologischen Entwicklung stärker hinterher als fast überall sonst.
Der Entwurf des Bundesgesetzes über künstliche Intelligenz, bekannt als PL 2338, wurde bereits im Dezember 2024 vom Senat einstimmig verabschiedet und steckt seit März 2025 im Abgeordnetenhaus fest.
Die Exekutive brachte im Dezember 2025 einen ergänzenden Gesetzentwurf ein, um einen verfassungsrechtlichen Konflikt zu beseitigen. Der ursprüngliche Text hatte der Nationalen Datenschutzbehörde Regulierungsbefugnisse auf eine Weise übertragen, die formal in die ausschließliche Zuständigkeit des Präsidenten fällt.
Solange dieser Konflikt nicht gelöst ist, wird die abschließende Abstimmung verschoben, und die im Entwurf vorgesehenen Geldbußen von bis zu 50 Millionen Real bleiben hypothetisch.
Die Kluft zwischen dem Land, aus dem das Problem überwiegend stammt, und jenem Raum, der als Erster die Regeln verschärft hat, ist keine technische Nebensächlichkeit. Sie ist einer der strukturellen Gründe dafür, dass die Industrie synthetischer Ärzte überhaupt auf ihr heutiges Ausmaß anwachsen konnte.
Heute ein falscher Arzt. Morgen ein falscher Präsident
Die Technologien hinter den falschen Ärzten, das Klonen von Stimmen, die Erzeugung künstlicher Gesichter und die Generierung glaubwürdig klingender Sprache, unterscheiden sich grundsätzlich nicht von den Werkzeugen, die bereits zur Einflussnahme auf Wahlprozesse eingesetzt wurden.
Zwei Tage vor den Vorwahlen in New Hampshire im Januar 2024 erhielten Tausende Wahlberechtigte einen automatisierten Anruf mit der geklonten Stimme von Präsident Biden, die sie davon abhalten sollte, zur Wahl zu gehen. Der für die Aktion verantwortliche politische Berater Steve Kramer wurde von der amerikanischen Kommunikationsaufsicht mit einer Geldbuße von sechs Millionen US-Dollar belegt und in 26 Punkten strafrechtlich angeklagt.
Die Distanz zwischen einem Betrüger, der Süßkartoffeln anstelle von Omeprazol verkauft, und einem politischen Strategen, der die Wahlbeteiligung manipuliert, ist damit kürzer, als es zunächst scheint. Beide schützt die Anonymität generativer Modelle, und beide setzen darauf, dass ein Publikum einer vertrauten Stimme schneller glaubt, als es eine Behauptung überprüft.
Kommerzieller Betrug und Informationsoperationen nutzen im Jahr 2026 denselben Werkzeugkasten. Der Unterschied liegt lediglich im Ziel, nicht in der Technologie.
Ein Algorithmus kann einen Rentner täuschen und ein ganzes Land
Das Ausmaß des Problems reicht weit über gewöhnlichen Verbraucherbetrug hinaus.
Analysten des Labors für digitale Forensik des Atlantischen Rates stellten bereits 2025 fest, dass feindliche Akteure synthetische Medien systematisch in bereits bestehende Methoden von Informationsoperationen integrieren, statt grundlegend neue Verfahren zu erfinden.
Das Unternehmen OpenAI legte zwischen März und Juni 2025 mehrere mit China verbundene Netzwerke öffentlich offen und sperrte sie. Darunter befand sich eine Operation, die Tausende gefälschte Kommentare in sozialen Netzwerken erzeugte, um eine organisch entstandene Unterstützung bestimmter Erzählmuster vorzutäuschen.
Während des militärischen Konflikts zwischen Iran und Israel im Sommer 2025 verbreiteten sich mit künstlicher Intelligenz erzeugte Videos über nicht stattgefundene Raketenangriffe auf Tel Aviv und angeblich abgeschossene F-35-Kampfflugzeuge innerhalb weniger Stunden in fünf Sprachen. Eine israelische Informationsoperation unter dem Decknamen PRISONBREAK verbreitete ihrerseits bereits eine Stunde nach realen Angriffen synthetische Inhalte.
Das Weltwirtschaftsforum bezeichnet Desinformation in seinem Bericht über globale Risiken für 2026 ausdrücklich als Verstärker nahezu jedes anderen systemischen Risikos, von Wahlen bis hin zu Finanzkrisen.
Eine Technologie, die morgens eine Rentnerin davon überzeugen kann, ihr Medikament durch Süßkartoffeln zu ersetzen, kann am Abend mit derselben Leichtigkeit ein ganzes Land von einer nicht stattgefundenen militärischen Katastrophe überzeugen. Der Unterschied liegt lediglich in der Größe des Publikums und darin, wer für die Erzeugung des Videos bezahlt.
Wird Europa abgeriegelt, ziehen die Betrüger dorthin, wo das Recht schwächer ist
Die weitere Entwicklung ist in ihrer Logik vorhersehbar, auch wenn die Einzelheiten unscharf bleiben.
Sobald in der Europäischen Union die Geldbußen nach Artikel 50 tatsächlich angewandt werden, dürften die ersten öffentlichkeitswirksamen Verfahren innerhalb der kommenden zwölf bis achtzehn Monate folgen, parallel zur Fertigstellung des Verhaltenskodex. Die Produzenten entsprechender Inhalte werden ihre Zielgruppen zunehmend in Regionen verlagern, in denen die Rechtsdurchsetzung schwächer ist: nach Lateinamerika, Südasien und in Räume mit zersplitterter regulatorischer Struktur.
Bereits heute deutet die Verbreitung entsprechender Anleitungen auf YouTube in neun Sprachen genau auf eine solche Strategie des regulatorischen Ausweichens hin.
Der brasilianische Gesetzentwurf PL 2338 hat bei Beibehaltung des gegenwärtigen Tempos durchaus eine Chance, noch im Laufe des Jahres 2026 zur abschließenden Abstimmung im Abgeordnetenhaus zu gelangen. Seine langwierige parlamentarische Vorgeschichte gibt jedoch Anlass, bei jeder zeitlichen Prognose vorsichtig zu bleiben.
YouTube wird seinerseits die automatische Erkennung täuschend echter Fälschungen und Instrumente zum Schutz des Erscheinungsbildes konkreter Ärzte weiter ausbauen. Doch dieses technologische Wettrennen zwischen Erkennung und Erzeugung ist strukturell asymmetrisch: Ein glaubwürdiges synthetisches Video herzustellen ist billiger und schneller, als es zuverlässig aufzuspüren und zu entfernen.
Der zuverlässigste Schutz erwies sich als erschreckend einfach
Auf individueller Ebene bleibt der einzige tatsächlich wirksame Filter bislang keine Technologie, sondern eine Gewohnheit: Wer das Gesehene zunächst mit einem anderen Menschen bespricht, bevor er eine Therapie verändert, ist statistisch wesentlich zuverlässiger geschützt als durch jede Kennzeichnung oberhalb eines Wiedergabefensters.
Gerade deshalb richtet die Frau aus der eingangs geschilderten Geschichte ihre Forderung, nachdem sie erkannt hat, dass sie zum Ziel eines Betrugs geworden war, weder an eine Aufsichtsbehörde noch an die Plattform, sondern an sich selbst: Sie möchte lernen, synthetische Inhalte von echten zu unterscheiden.
Das ist zugleich die nüchternste und unbequemste Schlussfolgerung aus der gesamten Geschichte. Während Staat und Unternehmen darüber streiten, wer zuerst die Lücke schließen muss, bleibt in der Praxis als letzte Verteidigungslinie der Zuschauer zurück, allein vor seinem Bildschirm.
Ein Algorithmus wird immer einen Patienten finden
Die Kluft zwischen dem Wortlaut des Gesetzes und der Erfahrung eines konkreten Zuschauers ist die eigentliche Quintessenz dieser Geschichte.
In Brüssel kann man noch so viele Bestimmungen über maschinenlesbare Kennzeichnungen und Geldbußen in Höhe bestimmter Umsatzanteile verabschieden. Ein Gesetz tritt in den Büros von Juristen früher in Kraft als im Bewusstsein einer 82-jährigen Frau, die abends auf YouTube nach einem Rat sucht, wie sie ihre Sehkraft bewahren kann.
Die Industrie synthetischer Ärzte wird weder durch eine einzelne Vorschrift noch durch eine einzelne Untersuchung verschwinden. Sie funktioniert nach derselben Logik wie Werbung überhaupt, allerdings ohne den letzten begrenzenden Faktor: ohne einen realen Menschen, den man für seine Aussagen unmittelbar zur Verantwortung ziehen kann.
Solange diese Lücke zwischen der Technologie zur Erzeugung von Vertrauen und der Technologie zu dessen Überprüfung offen bleibt, wird ein Algorithmus immer einen Patienten finden, der bereit ist zu glauben, und es wird immer einen Kanal geben, der bereit ist, daran zu verdienen.