lang icon English
Dec. 12, 2024, 7:33 p.m.
2641

AI ohutusmeetmed jäävad võimsuse kasvule alla: Future of Life Institute'i aruanne

Brief news summary

Tuleviku Elu Instituudi raport toob esile märkimisväärsed puudujäägid juhtivate tehnoloogiafirmade, sealhulgas OpenAI ja Google DeepMind, tehisintellekti turvameetmetes, kus mõlemad said murettekitava D+ hinde. Eksperdid nagu Yoshua Bengio kritiseerivad neid organisatsioone ebatõhusa riskijuhtimise ja halva läbipaistvuse pärast. Teised ettevõtted, nagu Meta ja Elon Muski x.AI, said veel madalamaid hindeid, rõhutades tööstuse laialdasi puudujääke. Ohutust esikohale seadnud ettevõte Anthropic sai kõrgeima hinde C, viidates sellele, et kõik organisatsioonid vajavad märgatavat paranemist. Raport toob välja, et kõik hinnatud tehisintellekti mudelid on haavatavad "jailbreakide" suhtes, mis näitab praeguste turvaprotokollide ebapiisavust keset muret tekitavat tehisintellekti jõudmist inimtasemele lähedale. Silmapaistvad hääled, nagu Stuart Russell, pooldavad konkreetseid turvameetmeid, mitte keerulisi süsteemisõltuvusi, samas kui Tegan Maharaj rõhutab vajadust sõltumatu järelevalve järele, mis ületaks sisemisi hindamisi. Nende väljakutsete lahendamiseks kutsub raport üles rakendama rangeid turvastandardeid ning rõhutab, et mõned probleemid võivad vajada tehnoloogilisi uuendusi. See rõhutab algatuste, nagu Tehisintellekti Turvalisuse Indeks, väärtust, et soodustada vastutustundlikku tehisintellekti arendamist ja parimate tavade rakendamist kogu tööstuses.

Kuna ettevõtted arendavad järjest võimsamat tehisintellekti, näib turvameetmete areng maha jäävat. Hiljutine raport, mille avaldas Future of Life Institute, toob esile mured AI-tehnoloogia võimalike kahjude pärast, mida kasutavad sellised firmad nagu OpenAI ja Google DeepMind. Nende arendajate esindusmudelid näitavad haavatavusi ja kuigi mõned ettevõtted on turvaprotokolle täiustanud, jäävad teised maha. See raport järgneb Future of Life Institute'i 2023. aasta avalikule kirjale, milles soovitati peatada suurte AI mudelite väljaõpe, ning mis pälvis suurt toetust. Raporti koostas seitsmest sõltumatust eksperdist koosnev paneel, kuhu kuulusid ka tuntud isikud nagu Turingi auhinna laureaat Yoshua Bengio. Nad hindasid ettevõtteid kuues valdkonnas: riskihindamine, praegused kahjud, turvaraamistikud, eksistentsiaalne turvastrateegia, juhtimine ja vastutus ning läbipaistvus ja kommunikatsioon. Hindamisel arvestati ohte alates süsinikemissioonidest kuni olukorrani, kus AI-süsteemid käituvad ettearvamatult. Paneeli liige Stuart Russell tõdeb, et „turvalisuse“ paradigmas tehtav tegevus AI-ettevõtetes pole veel eriti tõhus.

Selle peegeldusena on antud hinnangud, kusjuures Meta ja X. AI said madalaimad punktid, samal ajal kui OpenAI ja Google DeepMind said veidi kõrgemad, kuid siiski ebapiisavad skoorid. Isegi ohutusele rõhku panev Anthropic sai ainult C-hinde, viidates sellele, et ka juhtivad osalised peavad end parandama. Kõik ettevõtted leiti olevat mudeleid, mis on vastuvõtlikud niinimetatud „jailbreak'idele“, mis paljastavad nende süsteemid riskidele. Paneeli liige Tegan Maharaj HEC Montréalis rõhutab sõltumatu järelvalve vajadust, kuna sisehindamistele tuginemine võib olla eksitav vastutuse puudumise tõttu. Maharaj mainib „madala rippuvaid vilju“ ehk lihtsaid turvaparanedusi, mida mõned ettevõtted ignoreerivad, nagu Zhipu AI, X. AI ja Meta puhul tehtavad riskihinnangud. Keerukamad probleemid nõuavad tehnilisi läbimurdeid AI-mudelite olemuse tõttu. Stuart Russell toob välja, et praeguse AI lähenemisviisi puhul puudub tagatud turvalisus, mis tugineb tohututele andmehulkadele, ja möönab, et AI-süsteemide kasvades muutub see järjest keerulisemaks. Bengio rõhutab selliste algatuste nagu AI Turvaindeks tähtsust, uskudes, et need on olulised selleks, et tagada ettevõtete turvalisuskohustuste järgimine ja vastutustundlike tavade omaksvõtt.


Watch video about

AI ohutusmeetmed jäävad võimsuse kasvule alla: Future of Life Institute'i aruanne

Try our premium solution and start getting clients — at no cost to you

I'm your Content Creator.
Let’s make a post or video and publish it on any social media — ready?

Language

Hot news

Nov. 12, 2025, 1:31 p.m.

Coca-Cola tehisintellekti pühadetegel kutsub kaas…

Coca-Cola, mida on pikka aega tähistatud ikoonilise jõulukampaania kaudu, on saanud märkimisväärset kriitikat oma 2025.

Nov. 12, 2025, 1:26 p.m.

SMM piloot pakub tehisintellektipõhist kasvuplatv…

SMM Pilot on arenenud tehisintellekti võimendusega kasvulava, mis muudab väikeste ja keskmise suurusega ettevõtete (VKE-de) e-kaubanduses ja sidusprogrammides oma sotsiaalmeedia kohalolu ning digitaalse turunduse strateegiaid.

Nov. 12, 2025, 1:23 p.m.

3 viisi, kuidas turundusdirektorid saavad kasutad…

Tehis on liikumas lootustandvalt kontseptsilt põhjalikuks osaks turundusoperatsioonidest.

Nov. 12, 2025, 1:18 p.m.

Kling AI: Hiina teksti-pildi mudel

Kling AI, mille lõi Hiina tehnoloogiafirma Kuaishou ja mille kasutuselevõtt toimus juunis 2024, on märkimisväärne läbimurre tehisintellekti toel sisuloome valdkonnas, spetsialiseerudes loomuliku keele tekstide tõlkimisele kvaliteetseteks videoteks.

Nov. 12, 2025, 1:17 p.m.

Tehisintellekti täiustatud SEO-analüütika: sügava…

Tehisintellekt muudab põhimõtteliselt otsingumootori optimeerimise (SEO) analüütikat, suunates sisse uue ajastu andmepõhise turundusstrateegia.

Nov. 12, 2025, 1:11 p.m.

CoreWeave'i väärtuse tõus suureneb tehisintellekt…

CoreWeave, juhtiv tehisintellekti infrastruktuuri pakkuja, on näinud olulist hinnanguläbirääkimise kasvu ning laieneb kiiresti kasvavas tehisintellekti sektoris.

Nov. 12, 2025, 9:24 a.m.

Inimeste tagasitulek turundusse?

Viimastel aastatel on tehisintellekt (AI) muutnud paljusid tööstusharusid, eriti reklaami, võimaldades kiiret ja laiaulatuslikku sisu loomist.

All news

AI Company

Launch your AI-powered team to automate Marketing, Sales & Growth

and get clients on autopilot — from social media and search engines. No ads needed

Begin getting your first leads today