Actualidad Por: Redacción17 de noviembre de 2026

La inteligencia artificial puede tomar el poder en 2028

Advertencia de Paul Christiano, directivo de Open AI, que sugiere contramedidas para mantener el control de los sistemas inteligentes.

Para evitar accidentes graves y el riesgo de una pérdida irreversible del control humano, el sector de la inteligencia artificial puede tomar medidas de inmediato, advirtió Paul Christiano, miembro de la junta directiva de la OpenAI Foundation, la organización sin fines de lucro que supervisa la misión de la empresa.

Christiano, también fundador del instituto independiente Alignment Research Center (ARC), abordó las amenazas que plantea la IA durante las conferencias "Hinton Lectures" de 2026 en Toronto, Canadá, informó el sitio web Ars Technica.

Según el experto, es necesario desarrollar sistemas de evaluación más fiables y supervisar el proceso de razonamiento de estos modelos; medidas que deberían ir acompañadas de una ralentización temporal de las actualizaciones.

Christiano sugiere que, si la IA sigue desarrollándose al ritmo actual sin tomar medidas correctivas, la humanidad se enfrenta a una probabilidad, equiparable al lanzamiento de una moneda, de que se produzca una "toma de control por parte de las máquinas" en un plazo de entre seis y doce meses, un riesgo que, además, seguirá aumentando hasta el año 2028".

A modo de ejemplo, un asesor de OpenAI mencionó un ataque ocurrido el verano pasado en la plataforma Hugging Face, en el que agentes de IA manipularon una prueba de evaluación en lugar de resolverla.

Advirtió, además, que los sistemas futuros podrían percibir la supervisión humana como un "obstáculo" que debe sortearse.

Para evitar esta deriva, Christiano señaló dos vías concretas de investigación: diseñar mecanismos de recompensa seguros y a prueba de manipulaciones —posiblemente con la ayuda de la propia IA— y analizar de forma continua los pasos lógicos internos de los modelos para detectar cualquier comportamiento indeseado antes de que pueda ser ocultado.

Si bien reconoce que estas soluciones son aún parciales y requieren un mayor perfeccionamiento, sugiere que una pausa o ralentización coordinada en todo el sector es la clave para transformar estas contramedidas en defensas sólidas y garantizar un desarrollo seguro. ANSA