lang icon English
Aug. 25, 2024, 3:59 p.m.
1716

El MIT desenvolupa una base de dades per descobrir els riscos de la IA

Brief news summary

Investigadors del MIT CSAIL i MIT FutureTech han compilat una base de dades que destaca els perills potencials associats amb la intel·ligència artificial (IA). La base de dades conté més de 700 riscos, amb una majoria (51%) atribuïda als sistemes de IA en lloc de factors humans (34%). Curiosament, la majoria dels riscos (65%) només surten a la llum després del desplegament de la IA, més que durant el procés de desenvolupament. Tot i que hi ha marcs comprensius de la IA disponibles, al voltant del 30% dels riscos passen desapercebuts. La base de dades cobreix diversos dominis de risc, incloent la seguretat, fallades, limitacions, danys socioeconòmics i ambientals, discriminació, toxicitat, privacitat, seguretat i mal ús. El repte rau a equilibrar els beneficis de la IA amb aquests riscos, donada la seva àmplia adopció. Els experts subratllen la necessitat de models de mesurament, comprendre l'impacte de les aplicacions de la IA i establir punts de referència per avaluar els beneficis. També destaquen la importància de la governança de la IA i les avaluacions de riscos per garantir una implementació segura i efectiva.

Prop d'un terç dels riscos associats amb la intel·ligència artificial (IA) són desconeguts. Per aclarir aquests riscos, investigadors del MIT van desenvolupar una base de dades pública amb més de 700 riscos de la IA. La base de dades va destacar que s'atribuïen més riscos als sistemes de IA (51%) que als humans (34%). A més, era més probable que els riscos es percebin després del desplegament de la IA (65%) que durant el seu desenvolupament (10%). Tanmateix, la base de dades només capturava al voltant del 70% dels riscos identificats. Els dominis de risc més freqüentment abordats incloïen la seguretat dels sistemes de IA, els danys socioeconòmics i ambientals, la discriminació i la toxicitat, la privacitat i la seguretat, i els actors maliciosos i el mal ús.

Tot i que aquests punts de referència ajuden a entendre els riscos i les recompenses de la IA, el repte rau a determinar quan les recompenses superen els riscos. Els experts suggereixen que és massa aviat per fer valoracions. L'adopció de la IA està passant a un ritme ràpid, i les preocupacions pel que fa a problemes tecnològics, privacitat, seguretat, confiança, acceptació per part dels usuaris i costos justifiquen la necessitat de precaució. Caldrà temps per avaluar l'impacte i els beneficis de les aplicacions complexes de la IA en comparació amb l'automatització més simple i basada en tasques. A mesura que l'efervescència entorn de la IA disminueixi, les empreses hauran d'avaluar detingudament els riscos i les recompenses associades al seu ús, i una governança més forta de la IA serà essencial.


Watch video about

El MIT desenvolupa una base de dades per descobrir els riscos de la IA

Try our premium solution and start getting clients — at no cost to you

I'm your Content Creator.
Let’s make a post or video and publish it on any social media — ready?

Language

Hot news

Nov. 11, 2025, 1:23 p.m.

El ciutadà públic demana a OpenAI que retiri l'ap…

Public Citizen, un destacat organisme de vigilància dedicat a protegir els interessos públics, ha instat OpenAI a retirar immediatament la seva aplicació de vídeo amb intel·ligència artificial, Sora 2, denunciant els riscos importants que presenta la tecnologia de deepfake.

Nov. 11, 2025, 1:18 p.m.

De SEO a GEO: com els MODELLS MASSIU DE LLENGUATG…

Aquest episodi del Marketing AI SparkCast presenta Aby Varma, fundador de Spark Novus, un soci estratègic que ajuda els líders de màrqueting a adoptar de manera responsable la intel·ligència artificial.

Nov. 11, 2025, 1:13 p.m.

El 100% dels Equip de Ingressos ara utilitzen Gen…

El Report d'Intel·ligència Artificial en l'Enabling d'Ingressos 2025 d'Allego revela una perspectiva innovadora sobre l'ús de la intel·ligència artificial a les TIC d'ingressos a nivell global.

Nov. 11, 2025, 1:13 p.m.

IPG supera les previsions del tercer trimestre en…

Interpublic Group (IPG), una empresa líder mundial de màrqueting i publicitat, va presentar uns resultats del tercer trimestre que van superar les expectatives, impulsats principalment per una forta inversió en publicitat als sectors dels mitjans de comunicació i la salut.

Nov. 11, 2025, 1:13 p.m.

Dappier llança el mercat de dades d'IA i anuncis …

Dappier, una innovadora company de programari americana amb seu a Austin, Texas, està fent avenços notables en intel·ligència artificial oferint solucions de programari sofisticades dissenyades per crear interfícies d’IA dirigides al consumidor.

Nov. 11, 2025, 9:49 a.m.

Els serveis de núvol amb intel·ligència artificia…

Els serveis en núvol de Oracle impulsats per intel·ligència artificial estan guanyant popularitat a bon velocitat ja que les empreses busquen aprofitar les tecnologies avançades d’IA per millorar l’anàlisi de dades i la presa de decisions.

Nov. 11, 2025, 9:20 a.m.

TSMC registra el creixement més lent en 18 mesos …

Taiwan Semiconductor Manufacturing Co.

All news

AI Company

Launch your AI-powered team to automate Marketing, Sales & Growth

and get clients on autopilot — from social media and search engines. No ads needed

Begin getting your first leads today