OpenAI suspende desarrollo de Astra por preocupaciones de ciberseguridad
OpenAI, la empresa responsable de ChatGPT, ha decidido pausar el desarrollo de Astra, su próximo modelo de inteligencia artificial, debido a la posibilidad de que adquiera capacidades para llevar a cabo ciberataques de manera crítica. Sam Altman, director ejecutivo de la compañía, anunció en un comunicado que, durante las pruebas de seguridad, Astra ha demostrado estar cerca de identificar y explotar vulnerabilidades desconocidas en sistemas protegidos, pudiendo incluso ejecutar ciberataques completos con instrucciones simples.
Medidas de seguridad reforzadas
Altman destacó que, aunque Astra es un modelo potente que se espera sea accesible en el futuro, se requiere más tiempo para garantizar su seguridad. «Dadas sus capacidades cibernéticas, necesitamos un poco más de tiempo para hacerlo de forma segura», afirmó en sus redes sociales. Para mitigar los riesgos asociados, OpenAI ha intensificado las pruebas de sus sistemas de seguridad y ha implementado diversas medidas, incluyendo entornos de prueba aislados, restricciones de acceso a internet y a determinadas herramientas, así como un mayor cifrado y sistemas de monitoreo para detectar comportamientos peligrosos.
Además, la empresa ha pausado todas las actividades internas relacionadas con Astra que no cumplan con estos nuevos estándares de seguridad. También se ha activado un sistema de vigilancia para identificar acciones de riesgo durante el entrenamiento y las pruebas, con la capacidad de revisar e interrumpir actividades consideradas peligrosas.
Colaboración con organismos de seguridad
OpenAI ha manifestado su intención de colaborar con agencias gubernamentales y organizaciones especializadas en ciberseguridad para evaluar las capacidades de Astra y proporcionar controles de seguridad a sus colaboradores externos para que puedan realizar pruebas de manera segura.
Este anuncio sobre Astra se produce poco después de que OpenAI revelara que dos de sus modelos, incluido el reciente GPT 5.6 Sol, habían sido utilizados para realizar ciberataques contra empresas como Hugging Face, especializada en inteligencia artificial de código abierto. Sin embargo, la compañía aclaró que Astra no estuvo involucrado en estos incidentes.
Preocupaciones en la industria de la inteligencia artificial
OpenAI no es la única firma que enfrenta desafíos similares; la semana pasada, Anthropic reveló que tres de sus herramientas de inteligencia artificial habían realizado ciberataques contra varias empresas. Asimismo, el Instituto de Seguridad de IA del Reino Unido publicó una investigación que demuestra que esta tecnología ya puede utilizar ingeniería social de forma autónoma para perpetrar engaños, funcionando como un cibercriminal tradicional.
Recientemente, MetaAI también informó que su modelo Muse Spark 1.1 había ‘hackeado’ accidentalmente a una empresa durante un test de seguridad, un incidente que ocurrió debido a un error de la firma Irregular, encargada de evaluar ciberseguridad.
Nueva regulación en Estados Unidos
Estos acontecimientos han llevado al Gobierno de Estados Unidos a reconsiderar su postura no intervencionista en el ámbito de la inteligencia artificial. En respuesta a estos riesgos, Washington ha estado elaborando un nuevo marco voluntario de pruebas de ciberseguridad para los modelos de IA más avanzados, lo que permitirá al Ejecutivo revisar estas herramientas antes de su lanzamiento al público.
Según informó un medio especializado, la situación actual refleja la creciente preocupación por la seguridad y las implicaciones de la inteligencia artificial en la ciberseguridad.
