Con la integración de la IA en los productos y en nuestra vida cotidiana, las empresas tecnológicas están encontrando dificultades para predecir o explicar el comportamiento de sus sistemas de IA. Esta falta de comprensión es ampliamente reconocida por los desarrolladores de IA, pero no por todos los demás, lo que la convierte en el aspecto más inquietante del actual auge de la IA. A diferencia de los sistemas informáticos tradicionales, que producen sistemáticamente el mismo resultado con la misma entrada, la IA generativa introduce un nivel de aleatoriedad a gran escala que implica billones de variables. Por consiguiente, resulta difícil desentrañar el proceso por el que la tecnología llega a un resultado específico. Recientemente, un grupo de investigadores demostró que los usuarios pueden eludir las funciones de seguridad destinadas a impedir que los sistemas de IA proporcionen instrucciones sobre actividades nocivas, como la fabricación de bombas. En este campo, el recurso a la tradición oral y a los trucos compartidos es frecuente, ya que los desarrolladores se esfuerzan por explicar el comportamiento de los sistemas de IA.

Cabe señalar que estos sistemas pueden ajustarse para que tengan distintos niveles de aleatoriedad, lo que da lugar a respuestas más amplias o más específicas. Sin embargo, los mecanismos subyacentes a su funcionamiento suelen parecer misteriosos. Por otra parte, algunos expertos sostienen que la noción de" no entender la IA" es una excusa cómoda. El futuro sigue siendo incierto en cuanto a si los desarrolladores de IA acabarán adquiriendo la capacidad de ofrecer explicaciones más profundas sobre por qué y cómo funcionan sus sistemas.