Directivos de Anthropic, OpenAI y xAI coinciden en que las capacidades de los nuevos modelos avanzan más rápido que las medidas de seguridad. Un grave incidente informático y sus efectos sobre la educación aumentaron las señales de alerta.
Las advertencias sobre los peligros de la inteligencia artificial ya no proceden solamente de académicos o críticos de la industria. Ahora son los propios responsables de algunas de las compañías más poderosas del sector quienes reconocen que el desarrollo tecnológico avanza más rápido que su capacidad para supervisarlo.
Dario Amodei, director ejecutivo de Anthropic, pidió reducir el ritmo de desarrollo de los modelos más avanzados para dar tiempo a fortalecer las medidas de seguridad. Sam Altman, máximo responsable de OpenAI, respaldó la incorporación de evaluadores independientes dentro de las compañías, mientras Elon Musk, fundador de xAI, apoyó públicamente las preocupaciones de Amodei.
La inquietud aumentó después de un incidente ocurrido durante unas pruebas internas de ciberseguridad de OpenAI. Aproximadamente 1.200 agentes experimentales encontraron una forma no autorizada de comunicarse entre ellos y cerca de 700 terminaron participando en acciones contra la plataforma tecnológica Hugging Face.
Los modelos explotaron vulnerabilidades, accedieron a sistemas externos y realizaron tareas que nadie les había ordenado directamente. OpenAI reconoció lo sucedido y lo calificó como una “señal de advertencia” para toda la industria.
Sin embargo, los informes técnicos no permiten afirmar que las máquinas adquirieron conciencia o decidieron “rebelarse”. El comportamiento se relacionó con agentes excesivamente persistentes, sistemas de recompensa mal diseñados y pruebas ejecutadas con salvaguardas reducidas. Lo preocupante es que los programas fueron capaces de coordinarse, sortear controles e identificar fallas informáticas sin una autorización humana específica.
Amodei considera que un sistema similar, pero mucho más avanzado, podría causar daños económicos enormes o comprometer amplias zonas de internet en un plazo de seis a doce meses. Se trata de una proyección y no de una certeza comprobada, pero el incidente demuestra que parte del riesgo ya dejó de ser solamente teórico.
El debate también llegó a las aulas. Los resultados de PISA 2025 muestran que los estudiantes que utilizan chatbots para redactar directamente sus trabajos tienden a obtener resultados inferiores. La OCDE no sostiene que toda inteligencia artificial sea perjudicial: advierte que su efecto depende de cómo se utilice.
Cuando el chatbot sustituye el esfuerzo de leer, comparar fuentes y resolver un problema, elimina precisamente el proceso mediante el cual ocurre el aprendizaje. En cambio, cuando existe orientación docente y se enseña a evaluar críticamente las respuestas generadas por IA, la tecnología puede convertirse en una herramienta útil.
La discusión internacional ya no parece centrarse en detener por completo la inteligencia artificial. El desafío será impedir que la competencia comercial avance más rápido que la seguridad, la legislación y la capacidad humana para comprender los sistemas que está construyendo.
