Microsoft främjar AI-säkerheten på sin utvecklarplattform Azure Foundry genom att införa ett nytt "säkerhets"-rankningsmått för att utvärdera AI-modeller för potentiella risker, såsom att generera hatpropaganda eller möjliggöra missbruk. Detta mått syftar till att bygga kundförtroende genom att transparent bedöma säkerhetsprofilen för olika AI-modeller. Rankningarna baseras på två nyckelbenchmarkar: Microsofts ToxiGen-benchmark, som upptäcker toxicitet och hatpropaganda, och Center for AI Safety:s Weapons of Mass Destruction Proxy-benchmark, som bedömer risker relaterade till skadligt missbruk. Dessa verktyg säkerställer en etisk och säker implementering av generativ AI-teknologi. Genom att integrera dessa rigorösa utvärderingar ger Microsoft utvecklare och organisationer tydliga insikter i säkerheten hos de AI-modeller de kan tänkas integrera i sina applikationer och tjänster. Initiativet ligger i linje med Microsofts bredare strategi att vara en neutral och ansvarsfull plattformsleverantör inom det växande området generativ AI. Istället för att begränsa sig till en enda källa planerar Microsoft att erbjuda modeller från flera leverantörer – inklusive OpenAI, som de har investerat 14 miljarder dollar i – för att skapa ett mångsidigt ekosystem som främjar innovation samtidigt som hög säkerhet och etiska standarder upprätthålls. Säkerhetsmåttet kommer i en tid då oro växer för missbruk av AI, inklusive skadligt innehåll, desinformation och illvilliga tillämpningar. Microsofts tillvägagångssätt tar direkt itu med dessa utmaningar genom att införa mätbara säkerhetsstandarder för att styra ansvarsfull användning av AI. Kombinationen av ToxiGen och Weapons of Mass Destruction Proxy-benchmarkarna ger en heltäckande riskbedömning, som omfattar både skadligt språkbruk och etiskt oetiskt missbruk. Via Azure Foundry kommer utvecklare att få tillgång till detaljerade säkerhetspoäng, vilket möjliggör informerat modellval och främjar transparens som ökar förtroendet bland AI-användare och intressenter.

Microsofts roll som plattform som tillhandahåller modeller från flera AI-leverantörer understryker dess engagemang för mångfald och neutralitet, samtidigt som det främjar konkurrens och innovation och förhindrar att en enskild aktör dominerar marknaden. Denna mångfald strävar efter att prioriterar inte bara prestanda utan också säkerhet och etik. Microsofts starka partnerskap med OpenAI speglar tro på den transformerande potentialen hos generativ AI, och det breda leverantörsekosystemet syftar till att skapa en livlig, ansvarsfull AI-marknad. Det här säkerhetsrankningsmåttet är grundläggande för att sätta tydliga säkerhetsförväntningar och ansvar för AI-modeller. Initiativet ligger också i linje med globala bransch- och regelverksinsatser för att styra AI på ett ansvarsfullt sätt. Medan regeringar och organisationer utvecklar ramverk för att förebygga AI-relaterad skada positionerar sig Microsoft som ledare i att etablera bästa praxis för säker AI-implementering. Med AI-teknologin i snabb utveckling blir effektiva säkerhetsåtgärder allt viktigare. Sammanfattningsvis visar Microsofts nya säkerhetsrankningsmått på Azure Foundry ett proaktivt och framtidsinriktat angreppssätt för AI-styrning. Genom att använda etablerade benchmarkar för att bedöma risker relaterade till hatpropaganda, missbruk och skadliga utdata, skapar Microsoft en miljö för ansvarsfull AI-utveckling och distribution. Detta steg stärker kundförtroendet och befäster Microsofts position som en neutral, etisk AI-plattformsleverantör i en snabbt föränderlig teknologisk värld.