Microsoft napreduje u sigurnosti umjetne inteligencije na svojoj platformi Azure Foundry developerima uvodeći novu ocjenu 'sigurnosti' kako bi procijenili potencijalne rizike AI modela, poput generiranja govora mržnje ili omogućavanja zloupotrebe. Ova ocjena ima za cilj izgraditi povjerenje korisnika transparentnim procjenjivanjem sigurnosnih profila raznih AI modela. Ocjene će se temeljiti na dva ključna kriterija: Microsoftovom ToxiGen okviru, koji prepoznaje toksičan jezik i govor mržnje, te centru za sigurnost umjetne inteligencije (Center for AI Safety) s proxy benchmarkom za oružje masovnog uništenja, koji procjenjuje rizike povezane s opasnom zloupotrebom. Ovi alati osiguravaju etičku i sigurnu primjenu generativnih AI tehnologija. Uključivanjem ovih rigoroznih procjena, Microsoft pruža programerima i organizacijama jasne uvide u sigurnost AI modela koje mogu integrirati u svoje aplikacije i usluge. Ova inicijativa usklađena je s šire strategije Microsofta, koja teži da bude neutralan i odgovoran pružatelj platformi u sve dinamičnijem prostoru generativne AI tehnologije. Umjesto oslanjanja na jedan izvor, Microsoft planira nuditi modele od više pružatelja, uključujući OpenAI, u koji je uložio 14 milijardi dolara, stvarajući raznolik ekosistem koji potiče inovacije uz visok stupanj sigurnosti i etičkih standarda. Ocjena sigurnosti dolazi usred rastućih zabrinutosti zbog zloupotrebe AI, uključujući stvaranje štetnog sadržaja, dezinformacije i zlonamjerne primjene. Microsoftov pristup izravno rješava te izazove implementacijom mjerljivih sigurnosnih standarda za odgovorno korištenje AI. Kombinacija ToxiGen i proxy benchmarka za oružje masovnog uništenja pruža sveobuhvatnu procjenu rizika, obuhvaćajući i štetni jezik i mogućnosti zloupotrebe. Putem Azure Foundryja, programeri će imati pristup detaljnim ocjenama sigurnosti, što će im omogućiti informirano odabiranje modela i potaknuti transparentnost koja povećava povjerenje korisnika i dionika u AI.

Uloga Microsofta kao platforme koja podržava više pružatelja AI modela ističe njegovu predanost raznovrsnosti i neutralnosti, potičući konkurenciju i inovacije, a istovremeno sprječavajući preuzimanje tržišta od strane jednog entiteta. Ova raznolikost teži prioritetu ne samo performansi, već i sigurnosti i etike. Snažna suradnja Microsofta s OpenAI-jem odražava vjeru u transformativni potencijal generativne AI, dok širok ekosustav pružatelja nastoji stvoriti aktivno i odgovorno tržište umjetne inteligencije. Ocjena sigurnosti temelji se na jasnim očekivanjima i odgovornosti za modele umjetne inteligencije. Ova inicijativa također se usklađuje s globalnim industrijskim i regulatornim naporima za odgovorno upravljanje AI-jem. Dok vlade i organizacije razvijaju okvire za sprječavanje šteta od AI, Microsoft pozicionira sebe kao lidera u uspostavljanju najboljih praksi za sigurnu primjenu AI. Kako tehnologije AI rapidno napreduju, snažne mjere sigurnosti postaju sve važnije. Zaključno, Microsoftova nova ocjena sigurnosti na Azure Foundryju predstavlja proaktivni i vizionarski pristup upravljanju AI-jem. Iskorištavanjem etabliranih standarda za procjenu rizika vezanih uz govor mržnje, zloupotrebu i štetne rezultate, Microsoft stvara okruženje za odgovorni razvoj i primjenu AI. Ovaj potez jača povjerenje kupaca i učvršćuje Microsoftov položaj kao neutralnog, etičnog pružatelja platformi za umjetnu inteligenciju u brzo mijenjajućem tehnološkom krajoliku.