Den britiske forsknings- og opfindelsesenhed, Den Avancerede Forsknings- og Opfindelsesagentur (ARIA), har afsløret planer om "kvantitative sikkerhedsgarantier" inden for kunstig intelligens (AI). ARIA har til formål at udvikle standarder, der ligner dem inden for kernekraft og luftfart, og give sandsynlighedsbaserede garantier for, at der ikke sker skade ved maskinlæringsaktioner. Agenturet vil investere 59 millioner pund i projektet og planlægger at demonstrere et skalerbart proof-of-concept inden for et specifikt område, såsom balancering af elnettet eller supply chain management. Det ultimative mål er at sikre AI-applikationer med høje stakes, som for eksempel forbedring af kritisk infrastruktur og optimering af kliniske forsøg. ARIA's tilgang involverer en "gatekeeper" AI, der sikrer, at andre AI-agenter opererer inden for definerede rammer. Programdirektør David Dalrymple, der medopfandt kryptovalutaen Filecoin, har kombineret kommercielle og akademiske koncepter for at skabe denne tilgang.

Dyb tværfagligt samarbejde vil være afgørende, hvilket gør ARIA lignende DARPA, det amerikanske forsvarministeriums forskningsenhed. ARIA's projekt er blevet inspireret af DARPA's HACMS-program, som havde til formål at skabe ukrakkelige software ved hjælp af formel verifikation. Konceptet stemmer også overens med opfordringen til "kvantitative sikkerhedsgarantier", fremsat af datalog Yoshua Bengio. Succesen med dette projekt kan potentielt adressere spørgsmål om ARIA's budget og finansiering. ARIA har modtaget 800 millioner pund over fem år, en brøkdel af hvad andre regeringsforskningsorganer modtager, og har som mål at reducere omkostningerne til AI-træning betydeligt med et andet nyligt program.