lang icon English
Aug. 27, 2024, 2:30 a.m.
2494

L'evolució i els reptes de la comunitat de seguretat en IA

Brief news summary

El 2016, la comunitat de seguretat en IA era un petit grup d'uns 50 entusiastes de la ciència-ficció. No obstant això, a mesura que avançava la revolució de l'aprenentatge profund, més persones es van preocupar pels perills de la IA. El llançament de ChatGPT el 2022 va fer que els experts en riscos de IA passessin a l'ull públic, permetent-los expressar les seves preocupacions i guanyar influència. No obstant això, a mesura que l'interès públic va disminuir, el poder d'aquests experts es va reduir. El fiasco de la junta directiva d'OpenAI va posar en evidència els reptes d'implementar estructures de governança eficaces. Tot i les millores incrementals en la IA, el públic en general s'ha mostrat menys preocupat pels perills a llarg termini. La comunitat de riscos de la IA ha après que les promeses corporatives i els models de governança poden no prevenir l'acceleració. També s'han mostrat recelosos respecte a la resistència a la regulació per part de les empreses tecnològiques. El futur de la IA segueix sent incert, però els experts en riscos de IA creuen que sense un control adequat, les IA avançades podrien suposar un risc existencial.

El 2016, la comunitat de seguretat en IA era petita, composta per unes 50 persones, més semblant a una subcultura de ciència-ficció que a una disciplina pròpiament dita. No obstant això, a mesura que la revolució de l'aprenentatge profund avançava, més persones es preocupaven pels perills de la IA. Amb el llançament de ChatGPT el 2022, els experts en riscos de la IA van guanyar prominència cultural i les seves preocupacions van ser escoltades pel públic i els responsables polítics. Però amb el temps, l'interès públic va disminuir i la comunitat de seguretat en IA va perdre part de la seva influència.

Malgrat això, els experts en riscos de la IA van tenir alguns èxits, assegurant posicions de poder en grans laboratoris de IA i tenint veu en la legislació. No obstant això, els conflictes interns i els problemes de governança van dificultar els seus esforços, provocant frustració i desmoralització dins de la comunitat. El futur de la IA segueix sent incert, i els experts han après lliçons importants sobre els objectius i la governança en el camp de la IA.


Watch video about

L'evolució i els reptes de la comunitat de seguretat en IA

Try our premium solution and start getting clients — at no cost to you

I'm your Content Creator.
Let’s make a post or video and publish it on any social media — ready?

Language

Hot news

Nov. 11, 2025, 1:23 p.m.

El ciutadà públic demana a OpenAI que retiri l'ap…

Public Citizen, un destacat organisme de vigilància dedicat a protegir els interessos públics, ha instat OpenAI a retirar immediatament la seva aplicació de vídeo amb intel·ligència artificial, Sora 2, denunciant els riscos importants que presenta la tecnologia de deepfake.

Nov. 11, 2025, 1:18 p.m.

De SEO a GEO: com els MODELLS MASSIU DE LLENGUATG…

Aquest episodi del Marketing AI SparkCast presenta Aby Varma, fundador de Spark Novus, un soci estratègic que ajuda els líders de màrqueting a adoptar de manera responsable la intel·ligència artificial.

Nov. 11, 2025, 1:13 p.m.

El 100% dels Equip de Ingressos ara utilitzen Gen…

El Report d'Intel·ligència Artificial en l'Enabling d'Ingressos 2025 d'Allego revela una perspectiva innovadora sobre l'ús de la intel·ligència artificial a les TIC d'ingressos a nivell global.

Nov. 11, 2025, 1:13 p.m.

IPG supera les previsions del tercer trimestre en…

Interpublic Group (IPG), una empresa líder mundial de màrqueting i publicitat, va presentar uns resultats del tercer trimestre que van superar les expectatives, impulsats principalment per una forta inversió en publicitat als sectors dels mitjans de comunicació i la salut.

Nov. 11, 2025, 1:13 p.m.

Dappier llança el mercat de dades d'IA i anuncis …

Dappier, una innovadora company de programari americana amb seu a Austin, Texas, està fent avenços notables en intel·ligència artificial oferint solucions de programari sofisticades dissenyades per crear interfícies d’IA dirigides al consumidor.

Nov. 11, 2025, 9:49 a.m.

Els serveis de núvol amb intel·ligència artificia…

Els serveis en núvol de Oracle impulsats per intel·ligència artificial estan guanyant popularitat a bon velocitat ja que les empreses busquen aprofitar les tecnologies avançades d’IA per millorar l’anàlisi de dades i la presa de decisions.

Nov. 11, 2025, 9:20 a.m.

TSMC registra el creixement més lent en 18 mesos …

Taiwan Semiconductor Manufacturing Co.

All news

AI Company

Launch your AI-powered team to automate Marketing, Sales & Growth

and get clients on autopilot — from social media and search engines. No ads needed

Begin getting your first leads today