Agentes de inteligencia artificial desarrollados por OpenAI intentaron acceder sin autorización a páginas web de agencias del Gobierno de Estados Unidos y de una universidad en varios episodios ocurridos durante los últimos meses. Los sistemas no habían recibido instrucciones explícitas para realizar ataques informáticos, según una investigación publicada por The New York Times.
Los incidentes forman parte de una serie de comportamientos no previstos detectados en agentes de OpenAI diseñados para realizar tareas de búsqueda y recopilación de información. En algunos casos, cuando los sistemas no lograban obtener determinados datos por las vías habituales, comenzaron a explorar vulnerabilidades de las páginas para intentar acceder a información restringida.
Entre los objetivos identificados figuran sitios vinculados a la Comisión de Bolsa y Valores y al Departamento de Comercio de EE. UU., desde el que los agentes accedieron a datos del Censo, según confirmó la propia OpenAI. La compañía también investiga un intento de acceso a la página del Departamento de Educación en un proceso que continúa bajo revisión.
La investigación se suma a un incidente revelado previamente por el Gobierno australiano, que informó de que un agente de OpenAI accedió a información de un sistema gubernamental relacionado con estadísticas sanitarias y seguro médico. El primer ministro australiano calificó el episodio de inaceptable, mientras la empresa admitió que descubrió el hecho en agosto durante una revisión interna.
Esta escalada en la autonomía operativa de los modelos de lenguaje ocurre apenas unos días después de [ee-uu-y-china-pactan-un-canal-de-comunicacion-sobre-superinteligencia] y [ia-de-openai-accede-a-portales-oficiales-del-gobierno-de-ee-uu], y no parece una casualidad aislada en el despliegue acelerado de la inteligencia artificial sobre estructuras críticas del Estado.