Der schnelle Fortschritt in der künstlichen Intelligenz erfordert die Festlegung von Grenzen und die Entwicklung einer ethischen Philosophie bezüglich ihrer Integration in den Arbeitsplatz. Paula Goldman, die Chief Ethical and Humane Use Officer bei Salesforce, betonte auf der AI-Konferenz Brainstorm AI von Fortune in London die Bedeutung, dass AI die Rolle eines Co-Piloten neben Menschen spielt, anstatt im Autopilot-Modus zu funktionieren. Goldman äußerte die Notwendigkeit von Kontrollen auf einer höheren Ebene und der Fähigkeit der Einzelpersonen, die Funktionsweise des AI-Systems zu verstehen. Sie betonte die Bedeutung der Gestaltung von AI-Produkten, die sowohl die Stärken und Schwächen der AI als auch die Stärken und Schwächen menschlicher Entscheidungsfindung berücksichtigen. Eine der Bedenken von Goldman bezieht sich auf die Erzeugung ethischer Inhalte durch AI, um sicherzustellen, dass sie frei von Vorurteilen und übermäßigem von Benutzern generiertem Material wie Deepfakes ist, das Einzelpersonen Schaden zufügen könnte. Sie glaubt, dass der unethische Einsatz von AI ihre Finanzierung und Entwicklung behindern könnte, was potenziell zu einem Vertrauensverlust oder Benutzeradoptionsproblemen und einem "AI-Winter" führen könnte. Goldman erklärte, dass die zukünftigen Produktivitätsgewinne von AI am Arbeitsplatz stark von der Schulung und der Bereitschaft der Menschen abhängen werden, neue Technologien zu akzeptieren. Um Vertrauen in AI-Produkte zu schaffen, insbesondere bei Mitarbeitern, schlägt Goldman die Implementierung von "achtsamer Reibung" vor. Dieses Konzept beinhaltet die Integration von Kontrollmechanismen, die sicherstellen, dass AI-Tools am Arbeitsplatz mehr Nutzen als Schaden bringen. Salesforce hat bereits Schritte unternommen, um diese Idee der "achtsamen Reibung" umzusetzen. Sie haben ein Marketing-Segmentierungsprodukt entwickelt, das passende demografische Daten für E-Mail-Kampagnen generiert. Während das AI-Programm potenzielle demografische Informationen liefert, liegt es in der Verantwortung des Menschen, die geeigneten Parameter auszuwählen, um Ausschlüsse zu vermeiden.

Salesforce fügt auch Warnhinweise in ihre generativen Modelle ein, die Postleitzahlen beinhalten, da diese mit bestimmten Rassen oder sozioökonomischen Status korreliert sein können. Das Ziel besteht darin, potenzielle Vorurteile zu erkennen und Menschen dazu zu ermutigen, die Daten genauer zu überprüfen. Historisch gesehen haben Vorurteile und Urheberrechtsverletzungen Bedenken hinsichtlich des Vertrauens in AI aufgeworfen. Zum Beispiel zeigte eine Studie des MIT Media Lab, dass AI-Software eine Fehlerquote von 35% bei der Identifizierung von dunkelhäutigen Frauen hatte, einschließlich prominenter Persönlichkeiten wie Oprah Winfrey und Michelle Obama. Vorurteile in der Gesichtserkennungstechnologie beeinträchtigen kritische Aufgaben wie die Ausstattung von Drohnen oder Körperkameras mit Gesichtserkennungssoftware für tödliche Operationen. Darüber hinaus können algorithmische Vorurteile in Gesundheitsdatenbanken dazu führen, dass für bestimmte Patienten unangemessene Behandlungspläne vorgeschlagen werden, wie von der Yale School of Medicine festgestellt. Selbst in Branchen, in denen keine Menschenleben auf dem Spiel stehen, haben AI-Anwendungen ethische Bedenken hervorgerufen. OpenAI hat zum Beispiel Benutzer-generierten YouTube-Inhalt gesammelt, potenziell ohne die Zustimmung der Schöpfer, was Urheberrechtsverletzungen darstellt. Darüber hinaus weisen die Verbreitung von Fehlinformationen durch AI und ihre Begrenzungen bei der Durchführung grundlegender Aufgaben darauf hin, dass sie noch einen langen Weg vor sich hat, um ihr Potenzial als hilfreiches Werkzeug für Menschen vollständig zu verwirklichen. Trotz dieser Herausforderungen findet Goldman Hoffnung in der Gestaltung intelligenterer AI-Funktionen und der Implementierung von von Menschen geführten Sicherheitsmaßnahmen zur Verbesserung des Vertrauens in die Branche. Der Hauptfokus liegt darauf, Produkte zu entwickeln, denen Benutzer vertrauen können, während gleichzeitig erkannt wird, in welchen Situationen menschliches Urteilsvermögen angewendet und genauer betrachtet werden sollte.