In einem Kurzvideo reagiert ein Influencer leidenschaftlich auf eine Nachricht aus Kalifornien, die scheinbar authentische Aufnahmen zeigt, darunter ein Nachrichtensprecher, der die Zuschauer zum Handeln auffordert, Opfer sowie ein CNN-Logo. Das Banner verkündet „BREAKING NEWS“ mit der Schlagzeile „Kalifornische Unfallopfer bekommen irrationale Auszahlungen. “ Doch die Begeisterung dieses Social-Media-Stars ist in Wirklichkeit eine verdeckte Werbung, die dazu dient, Mandanten für juristische Dienstleistungen zu gewinnen, was größtenteils mithilfe künstlicher Intelligenz (KI) erstellt wurde. Mit dem jüngsten Aufschwung bei KI-Videotools und Sharing-Plattformen verschwimmt die Grenze zwischen echten Nachrichten und werblichem Content immer mehr. Personenschadenanwälte haben traditionell auffällige Werbung im Radio, im Fernsehen, auf Plakatwänden und in Infomercials genutzt, um ihre Marken im Gedächtnis der Verbraucher zu verankern. Durch Wiederholung und provokante Behauptungen bleiben sie nach einem Unfall in Erinnerung. Jetzt ermöglicht KI eine neue Generation überzeugenderer, lokal angepasster Werbung. Alexios Mantzarlis von Cornell Tech weist darauf hin, dass KI-generierte Menschen und Influencer-Repliken online Produkte und Dienste bewerben, ohne ihre künstliche Natur zu offenbaren, was den Wahrheitsgehalt der Werbung untergräbt. Dieser Trend geht über das Fernsehen hinaus, da KI auch sensationelle Schlagzeilen in den Feeds der Nutzer generiert, um Werbung zu machen. Ein Beispiel: eine Schuldenrückzahlungsanzeige zeigt einen Mann mit einer KI-erzeugten „Forbes“-Zeitung und einer Reihe von KI-generierten Personen, allesamt angeblich Fachleute. Trotz Kritik an solchen „KI-Unsinns“-Inhalten treiben Unternehmen die Entwicklung immer fortschrittlicherer KI-Videogeneratoren voran, die realistische Fake-News und -Sendungen ermöglichen. Meta stellte Vibes vor, eine App für KI-erstellte Kurzvideos, gefolgt von OpenAIs Sora-App, die „Cameo“ beinhaltet – damit können Nutzer ihre eigenen oder fremde Bilder in fotorealistische KI-Videos einfügen, die in Sekundenschnelle erstellt werden. Seit ihrer Veröffentlichung führt Sora die Download-Charts im App Store an, und OpenAI ermutigt Unternehmen, diese Technologie in ihre Produkte zu integrieren. CEO Sam Altman sieht in hochwertigen, synchronisierten Videos, die über APIs generiert werden, das Potenzial für neue Innovationen. Dadurch entstehen synthetische soziale Medienplattformen, die personalisierte KI-Content-Streams bieten, die TikTok-Videos ähneln – schwer zu unterscheiden, was echt ist und was Fake. Experten warnen, dass diese zugänglichen, leistungsfähigen Tools Risiken bergen, da staatlich unterstützte Akteure in einigen Ländern Desinformation mithilfe KI-generierter Nachrichten verbreiten. Befürworter für Online-Sicherheit heben hervor, dass durch KI produzierte irreführende Geschichten, Propaganda und Werbung menschliche Inhalte überlagern und die Informationsqualität verschlechtern. YouTube hat Hunderte von KI-generierten Betrugsvideos mit Prominenten entfernt, Spotify löschte Millionen KI-generierter Musikstücke, und das FBI schätzt, dass seit 2020 Deepfake-Betrügereien rund 50 Milliarden Dollar verloren haben.

Auch namhafte Medien wie der Los Angeles Times wurden Opfer, als KI fälschlicherweise einen Journalisten tot meldete. Anzeigen für juristische Dienstleistungen, die bekannt sind dafür, Grenzen zu überschreiten, stehen durch die rasante Entwicklung von KI vor neuen Herausforderungen, da es einfacher wird, Werbebeschränkungen zu umgehen, die keine Erfolgsgarantien vorsehen. KI-gestützte Nachrichtensendungen, in denen Opfer mit großen, KI-erzeugten Schecks gezeigt werden, verschwimmen die Grenzen zwischen Fakten und Fake und suggerieren problematischerweise tatsächliche Auszahlungen, warnt Anwalt Samuel Hyams-Millard. Ein Vorreiter in diesem Bereich ist Case Connect AI, das gesponserte YouTube-Shorts und Facebook-Anzeigen schaltet, die auf Opfer von Personenschäden abzielen. Sein KI-„Schadensersatz-Rechner“ soll angeblich den Versicherern Kosten ersparen, wie eine Social Influencer-artige Figur behauptet, gefolgt von KI-generierten Nachrichtenausschnitten und Bildern von Feiernden mit riesigen Schecks. Kürzliche Anzeigen auf der Transparenzseite von Google offenbaren zahlreiche KI-generierte Nachrichtensprecher und gefälschte Testimonials. Manchmal kommen sogar KI-generierte Roboter oder sogar Affen zum Einsatz. Case Connect nutzt das Google-Veo-3-Modell, hat jedoch nicht offengelegt, welche Elemente der Anzeigen KI-erstellt sind. Der Gründer Angelo Perone beschreibt die Firma als Lead-Generator, der Unfallopfer mit Anwälten verbindet und durch Provisionen von den Anwaltskanzleien bezahlt wird, ohne selbst Recht zu praktizieren. Er betont, Verantwortungsbewusstsein bei der Effektivität der Werbung zu wahren und dabei die Einhaltung der Werberichtlinien mit entsprechenden Disclaimer zu gewährleisten. Einige Juristen kritisieren diese Taktiken jedoch. Der Prozessanwalt Robert Simon vom Simon Law Group verurteilte bestimmte Case Connect-Anzeigen, die sich an Feueropfer in L. A. richten, als „egregious“ und fordert das Senate Bill 37, um irreführende Werbung einzudämmen – eine Diskussion, die älter ist als die Entwicklung von KI. Angesichts des US-amerikanischen Marktes für Personenschadensfälle im Wert von 61 Milliarden Dollar und Los Angeles als einer der wichtigsten Zentren warnt Hyams-Millard, dass Anwälte, die mit Lead-Generatoren wie Case Connect zusammenarbeiten, für irreführende Werbung haftbar gemacht werden könnten. Selbst Lead-Generation-Firmen wie der Gründer von 4LegalLeads, Vince Wingerter, erkennen die Abuse-Potenziale der KI an, betonen aber, dass Sicherheitsvorkehrungen schon immer notwendig waren und die heutige Technologie die Herausforderungen nur verschärft.