In den 1990er und frühen 2000er Jahren bestand die Hoffnung neuer Kommunikationstechnologien darin, die Demokratie zu stärken und zu einer besseren Welt zu führen. Heute wird das Internet jedoch als nicht diesem Ziel gerecht werdend angesehen. Soziale Medien bewerten Inhalte anhand des Engagements und provozieren daher eine Flut emotional bewegender Beiträge. Bemühungen zur Verbesserung des Online-Raums haben sich auf die Moderation von Inhalten konzentriert, doch dieser Ansatz entfernt nur das Schlechte, ohne das Gute zu fördern. Die Google-Tochter Jigsaw glaubt, einen anderen Weg gefunden zu haben. Sie hat KI-Tools entwickelt, die Beiträge anhand positiver Merkmale wie Feingefühl, evidenzbasierter Argumentation, persönlicher Geschichten und Mitgefühl bewerten können.

Diese Tools könnten es Plattformen ermöglichen, Beiträge auf eine neue Weise zu ordnen und dabei nuancierte und mitfühlende Kommentare vorrangig zu behandeln, anstatt solche mit dem höchsten Engagement. Obwohl diese neuen Tools das Potenzial haben, das Internet zu revolutionieren, bestehen Bedenken hinsichtlich möglicher Vorurteile, KI-generierter Inhalte und politischer Auswirkungen von Veränderungen in Bezug auf die Belohnung von Sprache. Erfolgreich könnten diese neuen Algorithmen jedoch einen Paradigmenwechsel für soziale Medien schaffen, indem sie positivere Interaktionen fördern und möglicherweise die Nachfrage nach Fehlinformationen verringern. Plattformen müssen die Implementierung dieser Änderungen in Betracht ziehen, da die Priorisierung kurzfristigen Engagements zu einer geringeren Qualität der Inhalte geführt hat. Durch den Fokus auf langfristiges Engagement und die Entwicklung von Produkten, die Nutzer langfristig nutzen möchten, kann das Internet weg von einem Wettlauf nach unten bewegt werden.