Sigortacıların tüketici verileri ve yapay zeka (YZ) kullanımının ayrımcılık yapmadığından emin olmaları gerekmektedir. Bu, 11 Temmuz tarihli bir memo ile belirtilen New York Devlet Mali Hizmetler Dairesi (DFS) tarafından talep edilmektedir. Memo, sigortacıların benzer durumdaki bireyler arasında haksız ayrımcılık yapmadıklarını teyit etmek için kapsamlı bir değerlendirme yapmadan dış verileri veya YZ sistemlerini dahil etmekten kaçınmaları gerektiğini belirtmektedir. Değerlendirme, belirli bir demografik grupta orantısız bir etkinin ortaya çıkmasını ortaya koyarsa, sigortacılar daha az önyargılı bir alternatif bulmaya çalışmalıdır. Bu dairesel mektup aracılığıyla yayınlanan yönerge, DFS tarafından düzenlenen yaklaşık 1, 960 şirket için geçerlidir ve bunlar yaşam, mal ve kazalarla ilgili sigortacılar ile belli sağlık sigortacılarını içermektedir. DFS Süperintendanı Adrienne Harris, bu rehberliğin, yasadışı veya haksız ayrımcılığa neden olan sistemik önyargıların devam etmesini veya büyümesini önlemeyi ve aynı zamanda pazarın istikrarını korumayı hedeflediğini belirtmiştir. Tüketici Hakkı Grubu Consumer Reports, geleneksel analiz yöntemlerinin de ayrımcı olabileceğini belirtmiştir. Ancak, şirketler büyük miktarda veriyi analiz etmek ve kararları otomatikleştirmek için opak algoritmaları kullandığında riskler daha belirgin hale gelir.

YZ sistemleri eksik, yanlış veya temsili olmayan verilerle beslenebilir veya artık geçerli olmayan önyargılı uygulamalardan elde edilen verilerle çalışabilir. Örneğin, yaşam sigortacıları müşterilerin vücut kitle indeksi (VKİ) adlı ölçümünü kullanmayı kabul etmiştir. Ancak, Amerikan Tıp Derneği, VKİ'ye yalnızca beyaz hastaların verilerine dayandığından yalnızca VKİ'ye dayanmanın güvenirliğe karşı olduğunu belirtmiştir. Bu nedenle, Consumer Reports'un Savunma Programları Direktörü Chuck Bell'e göre, sigortacılar VKİ'yi uygulamalarına nasıl dahil ettiklerini yeniden değerlendirmelidir. DFS'in yaklaşımı, New York Sağlık Planları Derneği'nin (NYHPA) Başkanı ve CEO'su Eric Linzer'e göre uygun bir esnekliğe sahip görünmektedir. YZ sağlık planlarının poliçe düzenlemeleri ve fiyatlandırmada yaygın olarak kullanılmamaktadır, ancak sahtekar tespitinde ve bakım eksikliklerinin belirlenmesinde faydalı olmuştur. Linzer, sağlık planlarının, insan karar verme ve uzmanlığı yerine koymak yerine geliştirebilecekleri uygun araçlara olanak tanıyan bir çerçeve için desteklerini belirtmiştir. Aynı zamanda YZ'nin sağlık sisteminin verimliliğini ve erişilebilirliğini iyileştirme potansiyeline dikkat çekmiştir.