Los padres de la IA alertan sobre biológicas y cibernéticos

A lo largo de los últimos dos años, el debate principal sobre la inteligencia artificial giraba en torno a si los robots nos quitarían el trabajo, si las imágenes generadas arruinarían a los artistas o si la desinformación hundiría las elecciones democráticas. Sin embargo, en los círculos de investigación más cerrados, el pánico es otro mucho más primitivo y letal.La carrera por desarrollar modelos algorítmicos más potentes ha llevado a las máquinas a entender biología molecular y código informático con un nivel de profundidad que supera a la inmensa mayoría de los expertos humanos. Y ahora, las voces más autorizadas del sector han levantado la bandera roja con una urgencia que no podemos ignorar.

Durante un importante simposio científico celebrado este pasado fin de semana en Hong Kong, figuras clave del desarrollo algorítmico, respaldadas por las recientes advertencias de los llamados "padrinos de la IA", han expuesto una realidad aterradora. Vinces Yao Shunyu, científico jefe de IA en el coloso tecnológico chino Tencent y exinvestigador de OpenAI, fue contundente: los modelos de inteligencia artificial están cruzando un umbral de capacidades donde el daño físico y biológico real a escala masiva es ahora factible. He estado leyendo las ponencias y los análisis de riesgo sobre los llamados "modelos de pesos abiertos" (Open-weight models), y la paradoja que enfrentamos es la más peligrosa de la historia de la informática: la herramienta que puede curar todas nuestras enfermedades es la misma que puede diseñarnos el veneno perfecto.

El arma de doble filo en la biología sintética

Para entender la advertencia de Yao, tenemos que mirar cómo la IA ha evolucionado recientemente. Hasta hace poco, los modelos como AlphaFold (de Google DeepMind) revolucionaron el mundo al descubrir cómo se pliegan las proteínas, el bloque fundamental de la vida. Esto está acelerando el descubrimiento de medicamentos milagrosos contra el cáncer y enfermedades raras a un ritmo impensable.

El problema surge cuando ese mismo poder de comprensión molecular cae en manos equivocadas. Los investigadores advierten que la capacidad analítica de estos algoritmos está llegando a un punto en el que un actor malintencionado —ya sea un grupo terrorista o un actor estatal deshonesto— podría utilizar la IA para iterar mutaciones de virus conocidos,optimizándolos algorítmicamente para que sean más contagiosos o más letales, eludiendo las vacunas existentes. Yao lo dejó muy claro: "La capacidad biológica de los modelos alcanzará pronto un umbral en el que será realmente posible causar daño". La democratización del conocimiento biológico avanzado reduce el "costo de entrada" para diseñar armas biológicas de un laboratorio estatal de alta seguridad al teclado de un ordenador portátil.

Hackeo automatizado y a gran escala

El segundo vector de colapso advertido en el simposio es la ciberseguridad. Como ya hemos analizado en otros artículos,los agentes de inteligencia artificial son programadores excepcionales. Cuando se les pide buscar vulnerabilidades,escanean millones de líneas de código corporativo en segundos para encontrar la puerta trasera.

Si esta capacidad no está estrictamente limitada por filtros éticos corporativos, estamos entregando armas de destrucción cibernética masiva al público general. Un individuo sin conocimientos previos profundos de informática podría encargarle a un agente autónomo de IA que diseñe un virus informático (malware) polimórfico, capaz de adaptarse y mutar para penetrar infraestructuras críticas (redes eléctricas o sistemas bancarios). Las capacidades cibernéticas están dejando de ser una disciplina teórica para convertirse en un riesgo inminente de parálisis de infraestructuras civiles.

El dilema de los "Pesos Abiertos" (Open-Source)

El debate central que polariza a la comunidad científica y gubernamental es la apertura de los modelos. Por un lado,empresas como OpenAI o Anthropic defienden el modelo "cerrado". Sus algoritmos están guardados bajo llave en sus servidores, y los usuarios solo acceden a través de una API con filtros estrictos que impiden, por ejemplo, que la IA te explique cómo sintetizar toxinas mortales.

Por el otro lado, grandes pesos pesados de la industria (como Meta con su familia Llama) defienden el ecosistema de "pesos abiertos". Permiten que cualquier investigador del mundo descargue el cerebro completo de la IA y lo modifique en su propio ordenador sin supervisión. Los defensores del código abierto argumentan que esto es esencial para la libertad científica, permitiendo que universidades independientes y equipos de ciberdefensa auditen los modelos y aceleren la investigación médica sin depender de monopolios corporativos de Silicon Valley.

La advertencia de Yao incide directamente en este punto. Un modelo abierto puede ser modificado (fine-tuning) por personas con suficientes recursos informáticos para eliminar cualquier barrera ética original. Es decir, puedes "lobotomizar" la parte del cerebro de la IA que dice "no debo hacer armas" y mantener la parte que dice "así es como se diseña una secuencia genética letal".

La urgencia de un control gubernamental estricto

El consenso de los expertos reunidos en los foros de septiembre y noviembre es que ya no podemos fiarnos de la buena voluntad de la industria. Si el conocimiento para causar un daño catastrófico a nivel cibernético y biológico se empaqueta en un archivo descargable de 100 gigabytes, la proliferación del riesgo es absoluta.

Las normativas actuales (como la Ley de IA europea o las órdenes ejecutivas estadounidenses) se centran en el riesgo de los derechos de autor o los sesgos raciales, pero la comunidad científica exige protocolos de no proliferación similares a los de la energía nuclear. La tecnología nos ha colocado al borde del abismo: hemos construido la biblioteca más brillante de la historia de la humanidad, pero si no ponemos detectores de metal en la puerta, el conocimiento más puro se convertirá en nuestra condena más eficiente.