Neue Forschungen, die in Nature Medicine veröffentlicht wurden, verdeutlichen das Vorhandensein von Voreingenommenheit in künstlichen Intelligenz (KI) Maschinelles Lernen-Modellen, die in der medizinischen Bildgebung verwendet werden. Während diese Modelle darin herausragend sind, Rasse und Geschlecht vorherzusagen, zeigen sie nicht die gleiche Effektivität bei der Diagnose von Krankheiten. Die Studie betont die Bedeutung einer regelmäßigen Evaluation und bietet bewährte Verfahren zur Behebung dieser Diskrepanz.

Die Nutzung von KI in der medizinischen Bildgebung wächst rapide, der Markt wird voraussichtlich bis 2030 8, 18 Milliarden US-Dollar erreichen. Jedoch können Voreingenommenheiten die Genauigkeit beeinflussen, und Faktoren wie die Qualität der Trainingsdaten und menschliche Voreingenommenheiten können zu diesem Problem beitragen. Die Forscher empfehlen eine sorgfältige Bewertung von KI-Modellen anhand von in-Verteilungsdaten, um Voreingenommenheit in verschiedenen demografischen Bereichen zu mindern.