KI-generierte Audio- und Video-Plattformen entwickeln sich rapide weiter und finden Anwendungen in verschiedenen Bereichen wie Unterhaltung und Personalwesen. Allerdings erkennen die Verantwortlichen dieser Plattformen die damit verbundenen Risiken an. Sie verstehen die Notwendigkeit, Moderationsrichtlinien durchzusetzen, um Missbrauch zu verhindern, einschließlich der Nachahmung öffentlicher Personen und betrügerischer Aktivitäten. Während einer Diskussion mit dem Fortune-Senior-Writer Jeremy Kahn auf der Fortune Brainstorm AI-Konferenz in London betonten Victor Riparbelli, CEO von Synthesia, und Mati Staniszewski, CEO von ElevenLabs, die Bedeutung sicherzustellen, dass die Klonen von Stimmen und Generieren von Videos ihrer Unternehmen ethisch genutzt werden. Riparbelli, einer der Mitbegründer der Video-Generierungsplattform, sagte: "Wie bei den meisten neuen Technologien denken wir sofort an das, was schiefgehen kann. In diesem Fall ist das richtig – das wird sicherlich von bösen Menschen dazu benutzt werden, böse Dinge zu tun. " Die Verwendung von KI-generierten Audio- oder Videoinhalten zur Nachahmung öffentlicher Personen ist zu einem umstrittenen Thema geworden. Jüngste Fälle von expliziten Deepfakes mit Taylor Swift und gefälschten Robocalls von Joe Biden haben Bedenken hinsichtlich des Einflusses von KI-generierten Inhalten auf die bevorstehende US-Präsidentschaftswahl aufgeworfen. OpenAI hat kürzlich eine Verzögerung bei der Einführung seines KI-Stimmen-Klonteils aufgrund der damit verbundenen Risiken für Missbrauch angekündigt. Sie nannten insbesondere Bedenken hinsichtlich politischer Implikationen und erklärten: "Wir erkennen an, dass die Generierung von Sprache, die den Stimmen von Menschen ähnelt, ernsthafte Risiken birgt, die insbesondere in einem Wahljahr im Vordergrund stehen. " Staniszewski, Mitbegründer von ElevenLabs, betonte ihr Engagement für Investitionen in Protokolle zur Identifizierung von Kunden und zur Offenlegung von Informationen. Diese Maßnahmen stellen sicher, dass alle Inhalte, die auf ihrer Plattform generiert werden, auf das Profil eines bestimmten Benutzers zurückverfolgt werden können.

Darüber hinaus prüft das Unternehmen Möglichkeiten, KI-generierten und authentischen Inhalt zu unterscheiden, um den Nutzern klarzumachen, was was ist. Riparbelli hob hervor, dass Synthesia Protokolle eingeführt hat, bei denen Benutzer ihre Identität überprüfen und ihr Einverständnis zur Erstellung von KI-generierten Videos geben müssen. Er sagte: "Es ist derzeit unmöglich, auf Synthesia zu gehen und Klone einer Person aus einem YouTube-Video zu erstellen. Wir haben so die Kontrolle. Wir haben eine ziemlich strenge Inhaltsmoderation, Regeln darüber, was man erstellen kann und was nicht. " Während der Diskussion äußerte ein Reporter Bedenken hinsichtlich Audio-Deepfakes und verwies auf einen viralen Audioclip, der den Bürgermeister von London, Sadiq Khan, nachahmte und die Pro-Palästina-Demonstrationen im November letzten Jahres kritisierte. Khan betonte die Notwendigkeit von Maßnahmen des Parlaments, um gewagtere Störenfriede zu verhindern. Staniszewski plädierte für Transparenz und schlug vor, dass alle KI-generierten Inhalte eindeutig als solche gekennzeichnet sein sollten und die Benutzer Werkzeuge zur schnellen Überprüfung der Echtheit von Nachrichten haben sollten. Riparbelli erkannte an, dass es Zeit brauchen wird, bis die Branche und Gesetzgeber einen Konsens über bewährte Verfahren und Regulierungen hinsichtlich der Verwendung von KI-Werkzeugen wie denjenigen, die von Synthesia und ElevenLabs angeboten werden, erzielen. Er sagte: "Wie bei jeder neuen Technologie wird es Jahre dauern, bis die Menschen herausfinden, was richtig und was falsch ist. "