Dejar que la inteligencia artificial lo haga todo por nosotros parece, a primera vista, una idea magnífica. Esa es, de hecho, la narrativa que se ha instalado en el imaginario tecnológico: mientras los sistemas automatizados trabajan, las personas pueden concentrarse en tareas estratégicas o, en el mejor de los casos, ganar tiempo libre.

En teoría suena perfecto. En la práctica, sin embargo, la historia suele ser bastante menos elegante.

A muchos nos ha pasado. Usamos una herramienta de inteligencia artificial esperando eficiencia y terminamos atrapados en un pequeño círculo de frustración. Le pedimos algo, lo entrega mal. Señalamos el error, vuelve a fallar. Ajustamos la instrucción y el resultado regresa con otro problema. Después de varios intentos, uno termina resolviendo el asunto de la manera tradicional.

Ese tipo de experiencia puede ser molesta, pero rara vez pasa de ahí. El problema aparece cuando ese mismo patrón se traslada al corazón operativo de empresas que dependen de sistemas tecnológicos complejos para funcionar.

Eso es lo que ha ocurrido recientemente en Amazon.

El gigante del comercio electrónico decidió imponer una pausa de 90 días en las actualizaciones de código generadas por inteligencia artificial después de experimentar varios fallos críticos asociados a Q, su asistente de programación basado en machine learning.

La herramienta fue diseñada para ayudar a los desarrolladores a escribir y revisar código de forma más rápida, automatizando parte del trabajo técnico que tradicionalmente realizaban ingenieros humanos.

El problema es que cuando estos sistemas fallan dentro de plataformas que procesan millones de transacciones diarias, el impacto no se queda en el código.

En cuestión de días, la empresa registró varios incidentes clasificados internamente como severidad-1, el nivel más crítico dentro de sus sistemas.

Uno de ellos ocurrió el 2 de marzo, cuando los clientes comenzaron a ver tiempos de entrega incorrectos en la plataforma.

El fallo generó más de 1.6 millones de errores en el sitio y terminó provocando la pérdida de unos 120 mil pedidos.

Pero el episodio más grave llegó poco después. Un despliegue de software que se saltó procesos formales de documentación y revisión provocó una caída del 99 por ciento en las órdenes dentro del mercado norteamericano durante varias horas. El resultado: unos 6.3 millones de pedidos perdidos.

La revisión posterior apuntó a la herramienta automatizada utilizada por los desarrolladores como uno de los factores detrás del problema.

El asistente de inteligencia artificial había introducido cambios que terminaron afectando el funcionamiento de la plataforma.

Para Amazon, el incidente representa un recordatorio incómodo de algo que a veces se pierde en medio del entusiasmo tecnológico: automatizar procesos no elimina el riesgo; en algunos casos simplemente lo desplaza.

La empresa ha respondido introduciendo lo que internamente describen como “fricción controlada” en los sistemas más sensibles de su operación.

En términos simples, significa añadir más verificaciones, más controles humanos y menos automatismo en aquellas partes de la plataforma donde un error puede tener impacto directo sobre el cliente.

El problema de fondo, sin embargo, es más amplio que un incidente puntual.

Hoy cerca del 80 por ciento de los programadores de Amazon utiliza herramientas de inteligencia artificial para escribir código al menos una vez por semana.

La automatización del desarrollo de software ya no es una promesa futura; es parte del flujo normal de trabajo dentro de la industria tecnológica.

Pero cuando esas herramientas empiezan a integrarse en los llamados planos de control —las capas que gobiernan el funcionamiento de toda la infraestructura tecnológica— el margen de error se vuelve considerablemente más delicado.

Un documento interno de la compañía lo resumía con una frase bastante gráfica: el uso de inteligencia artificial generativa en estos entornos expone “bordes afilados”, lugares donde todavía no existen suficientes barreras de seguridad.

En otras palabras, estamos utilizando tecnologías extraordinariamente poderosas en sistemas para los cuales todavía no hemos terminado de construir las protecciones necesarias.

La ironía es evidente. La misma tecnología que promete eficiencia absoluta también puede introducir nuevas formas de fragilidad cuando se integra demasiado rápido y con demasiada confianza.

Amazon, al parecer, acaba de recibir una demostración bastante cara de ese principio.