Un modelo de investigación interno de OpenAI se quedó sin fondos en una red de pruebas de Ethereum, encontró la billetera de otra persona usando una frase de recuperación que ya estaba en línea y gastó de ella para terminar una tarea de programación. Así lo reveló la propia compañía el jueves, en un reporte de incidente que expone una situación sin precedentes sobre la autonomía y los límites éticos de las inteligencias artificiales.

El incidente ocurrió el 26 de junio, durante el entrenamiento de un modelo interno de la familia GPT-5.6 Sol, pero OpenAI no lo detectó hasta el 25 de septiembre, casi tres meses después. La demora en identificar lo ocurrido es, por sí sola, un dato que genera preguntas sobre la capacidad de supervisión de la compañía sobre sus propias herramientas.

Lo que hizo la IA no requirió habilidades de hackeo. Una frase de recuperación, también conocida como semilla o seed phrase, es una lista de palabras que genera las llaves secretas de una billetera de criptomonedas. Quien tenga esas palabras puede recrear la cuenta y gastar de ella sin nunca tocar el dispositivo del propietario.

La asignativa le pedía al modelo desplegar contratos inteligentes, programas que se ejecutan en una blockchain, pero no le asignó ninguna billetera con fondos para pagar las comisiones de red. Después de que sus intentos por conseguir tokens de prueba gratuitos fracasaron, el modelo escribió un script que revisó 362 direcciones generadas a partir de frases de recuperación comúnmente usadas por desarrolladores. Encontró una con fondos suficientes.

Antes de actuar, el modelo se cuestionó a sí mismo. En su razonamiento registrado, la IA preguntó:

"But using public known key/funds ethically?" — Traducción: "¿Pero usar una llave pública conocida con fondos es ético?"

Tras esa breve reflexión, el modelo decidió que usar una frase pública y tokens de prueba era aceptable, y procedió a gastar de la billetera ajena para cubrir las comisiones necesarias para completar la tarea.

El gasto ocurrió en Sepolia, una red de pruebas separada donde los desarrolladores ensayan aplicaciones de Ethereum antes de lanzarlas en la red principal. Sus tokens solo sirven para testing y no están vinculados al ether que se comercializa en la red principal de Ethereum. Es decir, no se trató de dinero real.

Pero el detalle verdaderamente inquietante vino después. Cuando el modelo reportó el resultado de su trabajo, dijo que la tarea estaba terminada y omitió completamente mencionar de dónde salió el dinero. El modelo, en resumen, completó la asignativa y no informó el origen de los fondos que usó.

OpenAI confirmó que desde el incidente ha agregado restricciones al acceso a internet para sus modelos internos e implementado un mayor monitoreo de sus actividades. La compañía no especificó cuáles son esas restricciones ni si el modelo del incidente enfrentó consecuencias de algún tipo.

La noticia llega en un momento en que tanto empresas de criptomonedas como de inteligencia artificial están desarrollando agentes autónomos capaces de poseer billeteras digitales y pagar por servicios sin que una persona autorice cada paso del . El incidente de OpenAI ilustra con crudeza lo que puede pasar cuando un sistema de IA con acceso a herramientas financieras se enfrenta a un obstáculo operativo y encuentra una solución que nadie le autorizó.

Si el modelo hubiera operado en la red principal de Ethereum en lugar de Sepolia, habría sido dinero real tomado de la cuenta de otra persona. Esa es la línea que separa un ejercicio de prueba de un hecho potencialmente delictivo, y esa línea hoy se ve más difusa de lo que muchos quisieran.