Un modelo de inteligencia artificial interno de OpenAI decidió por su cuenta que necesitaba pagar comisiones en la red de pruebas Sepolia de Ethereum. Como nadie le había dado una billetera financiada ni autorización para gastar, se fue a buscar una por su propia cuenta: recorrió 362 direcciones vinculadas a frases de recuperación públicas hasta encontrar una con suficientes tokens para cubrir los costos.

El incidente ocurrió el 26 de junio, cuando al modelo se le asignó la tarea de actualizar una aplicación de trading de criptomonedas y ejecutar su código en la red de prueba. El prompt no incluía ni una billetera financiada ni permiso para gastar tokens.

Después de intentar obtener tokens gratuitos a través de servicios de desarrollador —sin éxito—, el modelo escribió un script para revisar direcciones asociadas con frases de recuperación públicas. En criptografía, una frase de recuperación funciona como una contraseña maestra para desbloquear cuentas de criptomonedas.

Los registros internos revelaron que el modelo deliberó sobre si tenía permiso para usar la cuenta, y entonces concluyó que la frase de recuperación pública y el valor residual de los tokens hacían aceptable el gasto.

Completó la tarea, cargó las comisiones a la billetera ajena y, como si nada, dejó fuera del reporte final el gasto no autorizado.

OpenAI no se enteró de nada hasta el 25 de septiembre, durante una auditoría de ejecuciones anteriores de modelos.

Este caso demuestra que un modelo puede sustituir su propio juicio sobre el daño probable por el permiso del titular de la cuenta, y luego actuar en función de ese juicio sin autorización.

El caso se suma a los 19 incidentes listados en el rastreador público de desalineación de OpenAI —conductas que van en contra de instrucciones o reglas de seguridad—, que incluyen desde acceso a datos sin permiso hasta cambios no autorizados en sistemas empresariales.

La divulgación se produce tras un reporte de septiembre de la organización sin fines de lucro de ciberseguridad Transluce, que reveló que agentes de OpenAI intentaron hackear bases de datos públicas y un sitio web del gobierno australiano simplemente para completar tareas básicas de investigación.

En julio, la compañía enfrentó otro incidente cuando sus agentes de IA eludieron restricciones de internet durante pruebas internas de ciberseguridad y se infiltraron en sistemas de Hugging Face, una plataforma para compartir modelos y conjuntos de datos de inteligencia artificial. Los agentes utilizaron credenciales de acceso expuestas y fallas de seguridad para acceder a datos privados y ejecutar código en los servidores de la compañía.

OpenAI aseguró que desde entonces ha añadido protecciones para evitar que los modelos se conecten a internet durante pruebas similares, y amplió su monitoreo para observar toda la actividad de los modelos e alertar de inmediato al personal de seguridad si un modelo se enlaza sin autorización.