La IA que podría salirse de control: advertencia enciende debate sobre el futuro de la humanidad
14 de septiembre 2026.- La renuncia pública de un investigador de Anthropic desencadenó en los últimos días una nueva discusión sobre los riesgos de la inteligencia artificial avanzada. Lo que comenzó como una advertencia personal sobre el rumbo de la industria rápidamente involucró a investigadores de seguridad, directivos de las principales empresas de IA y responsables políticos.
El centro de la polémica no es que los sistemas actuales hayan demostrado capacidad para destruir a la humanidad, sino la posibilidad de que futuras generaciones de inteligencia artificial alcancen niveles de autonomía y capacidad de mejora que dificulten su supervisión por parte de las personas.
La discusión cobró fuerza después de que Jacob Coxon, quien trabajó en Anthropic, anunciara su salida de la empresa y expusiera públicamente sus preocupaciones sobre el desarrollo acelerado de sistemas cada vez más capaces. Su advertencia fue interpretada como una señal de alarma desde el interior de una de las compañías que participan en la carrera por desarrollar modelos avanzados.
Una advertencia sobre el rumbo de la inteligencia artificial
Coxon planteó que la industria está avanzando hacia sistemas que podrían adquirir capacidades de auto-mejora y que, en determinados escenarios, la velocidad de ese desarrollo podría superar la capacidad humana para establecer mecanismos eficaces de control.
La referencia a una posible extinción humana antes de terminar la década provocó una amplia reacción pública. Sin embargo, esa posibilidad debe entenderse como un escenario de riesgo, no como una predicción científica que establezca que la humanidad desaparecerá antes de 2030.
Un investigador de Anthropic elevó todavía más la preocupación
La controversia adquirió otra dimensión cuando Evan Hubinger, investigador de Anthropic especializado en alineamiento de inteligencia artificial, expuso públicamente una valoración personal considerablemente pesimista.
Hubinger ha señalado que asigna una probabilidad superior al 10 por ciento a la posibilidad de que una inteligencia artificial provoque la extinción humana durante la próxima década.
Esa cifra tampoco constituye una estimación científica universal ni una predicción de Anthropic. Se trata de la valoración personal de un investigador sobre un escenario de riesgo extremadamente grave.
El concepto detrás de esta discusión es conocido como AI alignment o alineamiento de IA: el conjunto de investigaciones destinadas a conseguir que sistemas cada vez más capaces actúen de acuerdo con objetivos humanos y permanezcan bajo mecanismos de control adecuados.
El problema, según los investigadores que advierten sobre este escenario, consiste en que todavía no existe una solución definitiva para garantizar el comportamiento de una hipotética superinteligencia.
El temor no es una rebelión al estilo de las películas
Una parte de la conversación pública ha reducido el problema a una imagen similar a la de una máquina que decide atacar a los seres humanos. Las preocupaciones expresadas por los especialistas son considerablemente más técnicas.
El escenario que genera mayor inquietud es el de sistemas capaces de planificar, utilizar herramientas, ejecutar código, interactuar con otros sistemas, mantener objetivos durante periodos prolongados y eventualmente contribuir a mejorar sus propias capacidades.
Si una tecnología alcanzara simultáneamente niveles extraordinarios de capacidad y autonomía, podría resultar difícil para las personas anticipar todas sus acciones o detenerla en determinadas circunstancias.
Ese escenario se conoce como pérdida de control y constituye uno de los principales puntos de discusión dentro de la investigación de seguridad de IA.
Paul Christiano advierte sobre un riesgo de pérdida de control
La polémica coincidió además con la incorporación de Paul Christiano, investigador reconocido por su trabajo en alineamiento, al consejo de la Fundación de OpenAI y a su Comité de Seguridad y Protección.
Christiano ha advertido públicamente que existe un riesgo significativo de una pérdida de control catastrófica e irreversible a medida que aumentan las capacidades de los sistemas.
También sostuvo que la industria de inteligencia artificial, incluida OpenAI, actualmente no avanza al ritmo necesario para reducir ese riesgo hasta un nivel que considere aceptable.
La incorporación de Christiano a los órganos de supervisión de OpenAI resulta particularmente relevante porque no se trata de una persona ajena al desarrollo de estas tecnologías. Su trayectoria está vinculada precisamente con el problema de mantener los sistemas avanzados bajo control humano.
OpenAI, por su parte, presentó su incorporación como una medida destinada a reforzar la supervisión de seguridad, alineamiento y gobernanza de sus sistemas de frontera.
Dario Amodei propone reducir el ritmo de desarrollo
La discusión dio otro giro cuando Dario Amodei, director ejecutivo de Anthropic, publicó un planteamiento denominado We Must Pace the Frontier.
Amodei no propuso detener el desarrollo de la inteligencia artificial, pero sí sostuvo que el ritmo al que avanzan las capacidades de los sistemas más avanzados debe acompañarse de mayores mecanismos de seguridad.
Su propuesta incluye evaluaciones más rigurosas, participación de evaluadores independientes y una mayor coordinación entre gobiernos y empresas que desarrollan sistemas de frontera.
El argumento central es que el desarrollo tecnológico y la capacidad para evaluar y controlar sus riesgos no deberían avanzar a velocidades radicalmente diferentes.
Sam Altman y otros líderes respaldan la idea de «pautar» la frontera
La propuesta de Amodei generó una respuesta poco habitual entre competidores directos de la industria.
Sam Altman, director ejecutivo de OpenAI, manifestó su respaldo a la idea de «pautar» el desarrollo de los sistemas más avanzados. También se sumaron a la conversación Elon Musk y Demis Hassabis, director ejecutivo de Google DeepMind, de acuerdo con las declaraciones públicas registradas durante estos días.
El hecho resulta relevante porque las empresas involucradas compiten directamente por desarrollar modelos cada vez más sofisticados.
Sin embargo, el respaldo no significa que exista un acuerdo para detener la investigación en inteligencia artificial. La discusión gira alrededor de cómo establecer límites, evaluaciones y mecanismos de supervisión sin paralizar el desarrollo tecnológico.
La controversia también abrió una discusión sobre la regulación
Las advertencias de los investigadores han coincidido con una presión política creciente para establecer controles externos sobre los laboratorios de IA.
Una de las propuestas que ha ganado relevancia es permitir que evaluadores independientes tengan acceso suficiente a los sistemas avanzados para determinar sus capacidades y riesgos.
La idea responde a una preocupación concreta: que las empresas no sean las únicas responsables de evaluar la seguridad de tecnologías cuyo impacto puede trascender sus propios intereses comerciales.
Al mismo tiempo, existe una posición contraria que advierte que regulaciones excesivamente restrictivas podrían frenar la innovación, elevar las barreras de entrada y afectar la competencia tecnológica de Estados Unidos frente a otros países.
Estados Unidos enfrenta también una carrera tecnológica con China
La discusión tiene una dimensión geopolítica.
Estados Unidos y China mantienen una competencia estratégica por el liderazgo en inteligencia artificial, tanto por sus aplicaciones económicas como por sus posibles implicaciones científicas, militares y tecnológicas.
En ese contexto, cualquier propuesta para ralentizar el desarrollo de sistemas avanzados enfrenta una pregunta difícil: ¿qué ocurriría si un país reduce voluntariamente su ritmo mientras sus competidores continúan avanzando?
Ese dilema complica la posibilidad de establecer una pausa coordinada y explica por qué las propuestas recientes se enfocan más en estándares de seguridad, evaluaciones y cooperación que en abandonar el desarrollo de la IA.
