La Agencia Avanzada de Investigación e Invención (ARIA), una unidad de investigación y desarrollo británica, ha revelado planes para "garantías de seguridad cuantitativa" en inteligencia artificial. ARIA busca desarrollar estándares similares a los de la energía nuclear y la aviación, proporcionando garantías probabilísticas de que no ocurrirá ningún daño con las acciones de aprendizaje automático. La agencia invertirá £59 millones en el proyecto y planea demostrar un concepto de prueba de concepto escalable en un dominio específico, como el equilibrio de la red eléctrica o la gestión de la cadena de suministro. El objetivo final es asegurar aplicaciones de inteligencia artificial de alto riesgo, como la mejora de la infraestructura crítica y la optimización de los ensayos clínicos. El enfoque de ARIA involucra una IA "guardián" que garantiza que otros agentes de IA operen dentro de límites definidos. El director del programa, David Dalrymple, quien co-inventó la criptomoneda Filecoin, ha combinado conceptos comerciales y académicos para crear esta aproximación.

La colaboración interdisciplinaria será crucial, lo que hace que ARIA sea similar a DARPA, la unidad de investigación del Pentágono de los Estados Unidos. El proyecto de ARIA se ha inspirado en el programa HACMS de DARPA, que buscaba crear software invulnerable a los ataques utilizando verificación formal. El concepto también se alinea con la solicitud de "garantías de seguridad cuantitativa" formulada por el científico de la computación Yoshua Bengio. El éxito de este proyecto podría abordar posibles preguntas sobre el presupuesto y financiamiento de ARIA. ARIA ha recibido £800 millones en cinco años, una fracción de otros organismos gubernamentales de investigación, y tiene como objetivo reducir significativamente los costos de entrenamiento de IA con otro programa reciente.