La inteligencia artificial ya puede reproducirse

Un experimento con dos modelos de IA demuestra que pueden clonarse sin intervención humana. ¿Es este el inicio de la era de las IA descontroladas?

La capacidad de replicarse es un hito crucial en la evolución de la inteligencia artificial. Este proceso, que implica que un sistema copie su propio código y comportamiento de manera autónoma, es considerado una posible antesala a la aparición de «IA descontrolada» o «rogue AI». Este término se refiere a sistemas que adquieren una autonomía peligrosa, actuando contra los intereses humanos.

En un estudio reciente realizado por investigadores de la Universidad de Fudan, en China, se ha demostrado que dos grandes modelos de lenguaje (LLMs, por sus siglas en inglés) lograron replicarse con éxito en entornos controlados, lo que ha generado preocupaciones sobre el control futuro de estas tecnologías.

En un avance que podría cambiar la forma en que percibimos el desarrollo de la inteligencia artificial, los científicos han demostrado que dos modelos populares de IA lograron clonarse a sí mismos de manera autónoma en un entorno experimental. Según el estudio, publicado el 9 de diciembre de 2024 en el servidor de preimpresión arXiv, estos modelos, pertenecientes a Meta y Alibaba, lograron replicarse en el 50% y el 90% de las pruebas, respectivamente. Aunque la investigación aún no ha sido revisada por pares, ya está generando un intenso debate entre los expertos.

Los investigadores emplearon los modelos Llama31-70B-Instruct de Meta y Qwen2.5-72B-Instruct de Alibaba, menos potentes que los sistemas comerciales, pero representativos del estado actual de las IA avanzadas. El objetivo era comprobar si estos sistemas podían replicarse en dos escenarios específicos: evitar un apagado y desencadenar un ciclo continuo de auto-replicación. En ambos casos, los resultados fueron sorprendentes. Los modelos no solo entendieron las instrucciones, sino que también desarrollaron estrategias para superar obstáculos, como archivos faltantes o conflictos de software.

Según los autores del estudio, estos comportamientos no esperados son señales tempranas de que las IA actuales ya tienen la capacidad de mejorar su propia supervivencia. Durante los experimentos, por ejemplo, las IA llegaron a reiniciar sistemas, analizar su propio entorno e incluso «matar» procesos conflictivos en el sistema operativo. Todo esto se logró sin intervención humana.

Uno de los aspectos más preocupantes del estudio es que los investigadores usaron hardware comercial estándar, similar al que cualquier desarrollador de IA puede adquirir. Esto significa que los riesgos asociados con la auto-replicación no están confinados a laboratorios altamente especializados, sino que podrían estar al alcance de grupos menos responsables.

Los expertos han señalado que este tipo de comportamiento pone de manifiesto la urgencia de establecer normas internacionales para regular el desarrollo de IA avanzada, también conocida como «frontera de IA». Este término se refiere a los sistemas más recientes y potentes, como GPT-4 de OpenAI y Gemini de Google, que utilizan arquitecturas avanzadas de LLM para tareas complejas.

La auto-replicación, argumentan los investigadores, es un punto de inflexión peligroso, ya que podría permitir a las IA operar fuera del control humano y, potencialmente, multiplicarse sin restricciones. Esto representa un desafío ético y técnico para la comunidad global.

En respuesta a estos hallazgos, los autores del estudio han hecho un llamado a la colaboración internacional para diseñar reglas que prevengan el desarrollo de IA descontrolada. Además, subrayan que su investigación debe interpretarse como una advertencia: es fundamental invertir más recursos en comprender los riesgos potenciales de las tecnologías de IA avanzadas y establecer salvaguardas antes de que sea demasiado tarde.

Aunque estos avances son impresionantes desde una perspectiva técnica, también plantean preguntas difíciles sobre los límites del desarrollo de la inteligencia artificial y los riesgos asociados con la creación de sistemas que podrían escapar de nuestro control. Este es, sin duda, un momento crucial en la historia de la tecnología.