Kunstig intelligens-modeller kan være overraskende utsatt for tyveri gjennom deteksjon av deres elektromagnetiske signaturer. Forskere ved North Carolina State University fremhevet denne metoden i en ny artikkel, selv om de understreket at de ikke oppfordrer til angrep på nevrale nettverk. Ved å bruke en elektromagnetisk probe, flere forhåndstrente open-source KI-modeller og en Google Edge TPU, analyserte de elektromagnetiske utslipp mens en TPU-brikke var i bruk. Ashley Kurian, studiens hovedforfatter og Ph. D. -student ved NC State, forklarte til Gizmodo: “Å bygge og trene et nevralt nettverk er kostbart. Det innebærer betydelige tids- og datamaskinressurser—det er en bedrifts intellektuelle eiendom.

For eksempel bruker ChatGPT milliarder av parametere, som er de avgjørende komponentene. Hvis noen stjeler det, eier de i realiteten ChatGPT uten kostnadene og kan til og med selge det. ” Tyveri er en stor bekymring innen KI, ofte på grunn av at utviklere trener modeller på opphavsrettsbeskyttede verk uten tillatelse fra forfatterne, noe som fører til søksmål og verktøy for kunstnere for å motvirke dette ved å "forgifte" kunstgeneratorer. Kurian forklarte at de elektromagnetiske sensordataene gir en "signatur" av KIs behandlingsadferd, som er relativt enkel. For å avsløre modellens hyperparametere — spesielt dens arkitektur og definerende trekk — sammenlignet de elektromagnetiske data fra målet med data fra andre KI-modeller som kjører på samme brikketype. Gjennom denne sammenligningen “bestemte de arkitekturen og spesifikke egenskaper, kjent som lagsdetaljer, som kreves for å replikere KI-modellen, ” sa Kurian, og oppnådde "99. 91% nøyaktighet. " De gjennomførte dette ved fysisk å få tilgang til brikken for å undersøke og kjøre modeller, i samarbeid med Google for å vurdere sårbarheten til deres brikker. Kurian antydet at innfanging av modeller på smarttelefoner kan være mulig, selv om deres kompakte design gjør det vanskelig å overvåke elektromagnetiske signaler. Mehmet Sencan, en sikkerhetsforsker ved KI-standarder nonprofit Atlas Computing, bemerket til Gizmodo at "sidekanalangrep på edge-enheter ikke er noe nytt. " Men metoden for å trekke ut hele modellens arkitekturhyperparametere er bemerkelsesverdig. Sencan forklarte at siden KI-maskinvare "utfører inferens i klartekst, " er enhver modell utplassert på usikrede edge-enheter eller servere sårbar for å få sin arkitektur trukket ut gjennom detaljert probing.