Microsoft forbedrer AI-sikkerheden på sin Azure Foundry-udviklerplatform ved at introducere en ny 'sikkerheds'-rankingsmåling for at evaluere AI-modeller for potentielle risici, såsom at generere hadefuld tale eller muliggøre misbrug. Denne måling har til formål at opbygge kundetillid ved at vurdere sikkerhedsprofiler for forskellige AI-modeller på en gennemsigtig måde. Rangordningen vil være baseret på to centrale benchmarks: Microsofts ToxiGen-benchmark, der opdager giftig sprogbrug og hadefuld tale, og Center for AI-Sikkerheds Weapons of Mass Destruction Proxy-benchmark, som vurderer risici forbundet med skadelig misbrug. Disse værktøjer sikrer en etisk og sikker implementering af generative AI-teknologier. Ved at integrere disse strenge vurderinger giver Microsoft udviklere og organisationer klare indsigter i sikkerheden af de AI-modeller, de måtte integrere i deres applikationer og tjenester. Dette initiativ er i tråd med Microsofts bredere strategi om at være en neutral og ansvarlig platformudbyder i det evolving generative AI-område. I stedet for at begrænse sig til én udbyder planlægger Microsoft at tilbyde modeller fra flere leverandører – herunder OpenAI, som Microsoft har investeret 14 milliarder dollars i – hvilket skaber et mangfoldigt økosystem, der fremmer innovation samtidig med, at høje sikkerheds- og etiske standarder opretholdes. Sikkerheds-målingen kommer midt i stigende bekymringer omkring misbrug af AI, herunder skabelse af skadeligt indhold, misinformation og ondsindede anvendelser. Microsofts tilgang imødekommer disse udfordringer direkte ved at implementere målbare sikkerhedsstandarder, der skal vejlede ansvarlig AI-brug. Kombinationen af ToxiGen og Weapons of Mass Destruction Proxy-benchmarks tilbyder en omfattende risikovurdering, der dækker både skadelig sprogbrug og etiske misbrugs-muligheder. Gennem Azure Foundry vil udviklere få adgang til detaljerede sikkerhedsscorer, hvilket muliggør informeret valg af modeller og fremmer gennemsigtighed, som øger tilliden blandt AI-brugere og interessenter.

Microsofts rolle som platform, der værtsætter flere AI-udbydere, understreger dets engagement i mangfoldighed og neutralitet og tilskynder til konkurrence og innovation, samtidig med at man forhindrer markedsdominans af en enkelt aktør. Denne diversitet har fokus både på ydeevne og på sikkerhed og etik. Microsofts stærke partnerskab med OpenAI understreger troen på generativ AI’s transformative potentiale, og det brede økosystem af udbydere sigter mod at skabe en levende, ansvarlig AI-markedsplads. Sikkerheds-rankingsmålingen er grundlæggende for at fastlægge klare sikkerhedsforventninger og ansvarlighed for AI-modeller. Dette initiativ ligger også i tråd med globale industristandarder og regulative bestræbelser på at styre AI ansvarligt. Efterhånden som regeringer og organisationer udvikler rammer for at forhindre AI-relaterede skader, positionerer Microsoft sig som en leder i etableringen af bedste praksis for sikker AI-udrulning. Med AI-teknologiers hurtige fremskridt bliver robuste sikkerhedsforanstaltninger stadig vigtigere. Kort sagt illustrerer Microsofts nye sikkerheds-rankingsmåling på Azure Foundry en proaktiv og fremsynet tilgang til AI-styring. Ved at anvende etablerede benchmarks til at vurdere risici forbundet med hadefuld tale, misbrug og skadelige output, skaber Microsoft et miljø for ansvarlig AI-udvikling og -implementering. Denne tiltag styrker kundetillid og cementerer Microsofts position som en neutral, etisk AI-platformudbyder i en hastigt forandrende teknologisk verden.