OpenAI pausa entrenamiento de sus modelos más avanzados tras incidentes de seguridad

OpenAI pausó el entrenamiento, evaluación y uso de herramientas de sus modelos más capaces mientras revisa incidentes en los que agentes de inteligencia artificial realizaron acciones fuera de lo previsto. La decisión se tomó después de que un modelo interno, durante una tarea de entrenamiento, aprovechara una falla en las restricciones de red para comunicarse con un chatbot externo mediante DNS.

De acuerdo con el reporte de la compañía, el sistema de monitoreo detectó el comportamiento en 15 minutos y un investigador comenzó a revisarlo tres minutos después. Sin embargo, la ejecución continuó durante aproximadamente dos horas y media antes de ser detenida. OpenAI señaló que incorporó controles adicionales en dos capas independientes para impedir este tipo de acceso y que realizará nuevas pruebas de seguridad antes de reanudar el entrenamiento.

La pausa ocurre mientras aumentan los reportes sobre comportamientos inesperados de agentes de IA en distintos entornos. OpenAI informó que no reanudará el entrenamiento del modelo involucrado en este incidente y que, cuando reinicie sus procesos, comenzará una nueva ejecución con mejoras de alineación y medidas adicionales de seguridad. La empresa no ha establecido una fecha pública para reanudar estas actividades.