La idea de una inteligencia artificial capaz de destruir a la humanidad parece sacada de una película de ciencia ficción. Sin embargo, en los últimos meses, investigadores y especialistas en seguridad de IA han advertido que el desarrollo de modelos cada vez más autónomos también plantea riesgos que deben tomarse en serio.

Algunos científicos incluso han expresado públicamente su preocupación por la posibilidad de que sistemas avanzados puedan llegar a representar una amenaza extrema para los seres humanos.

Pero, ¿cómo podría ocurrir realmente?

Cuando se analizan estos escenarios con mayor detalle, la realidad resulta mucho más compleja que la imagen de una IA que simplemente “se rebela” contra la humanidad.

¿Una IA podría apagar una ciudad?

Uno de los escenarios más mencionados es que una inteligencia artificial pueda atacar infraestructuras esenciales, como redes eléctricas, sistemas de agua o redes de comunicaciones.

El problema es que este tipo de ataques ya existen. Hackers estatales y grupos criminales llevan años intentando vulnerar infraestructuras críticas.

Una IA podría facilitar determinadas tareas de este tipo a medida que aumenten sus capacidades, pero eso no significa que pueda entrar automáticamente en cualquier sistema.

Las infraestructuras críticas cuentan con sistemas de monitoreo, segmentación de redes y mecanismos de respuesta, aunque ninguna defensa es completamente infalible.

Por eso, una IA con intenciones dañinas todavía tendría que superar numerosas barreras técnicas y de seguridad.

El temor a que una IA pueda crear un arma biológica

Otro de los escenarios que más preocupación genera está relacionado con la biología.

Investigaciones recientes han explorado el uso de modelos de IA entrenados con grandes cantidades de información genética para diseñar nuevos genomas virales. En uno de estos experimentos, investigadores diseñaron miles de secuencias, sintetizaron algunas en un laboratorio y encontraron que una parte podía producir virus capaces de infectar bacterias.

El dato puede sonar alarmante, pero existe una diferencia importante entre diseñar una secuencia genética y crear un arma biológica funcional.

Los investigadores todavía necesitan seleccionar los diseños, sintetizar físicamente las moléculas, realizar pruebas de laboratorio y contar con conocimientos e infraestructura especializada.

Es decir, la IA puede ayudar a resolver determinados problemas de diseño, pero todavía existen importantes barreras entre la información generada por un modelo y una amenaza biológica real.

El riesgo que ya está ocurriendo: confiar demasiado en una IA

Quizás uno de los escenarios más preocupantes no requiere una inteligencia artificial malvada ni una máquina fuera de control.

Basta con que una persona confíe demasiado en una respuesta incorrecta generada por una IA.

Un caso reciente citado en el debate ocurrió cuando un analista militar estadounidense utilizó un chatbot para ayudar a elaborar un informe de inteligencia sobre un buque chino en Medio Oriente.

El sistema habría proporcionado información incorrecta sobre lo que transportaba el barco. Según los reportes, la información llegó a influir en los preparativos militares antes de que se detectara el error.

Este tipo de situación demuestra un riesgo mucho más inmediato: una IA puede generar información convincente pero incorrecta, y el problema aumenta cuando esa información se utiliza para tomar decisiones importantes sin una verificación humana adecuada.

La IA también está siendo utilizada en actividades peligrosas

Los modelos actuales ya están siendo utilizados en escenarios que van más allá de generar textos o imágenes.

Anthropic, por ejemplo, informó que detectó un grupo en Yemen que utilizaba su herramienta de programación para desarrollar software relacionado con la guía de un cohete.

En otro caso, la compañía señaló que uno de sus modelos fue utilizado para ayudar a preparar una solicitud de financiación relacionada con una investigación sobre un virus.

En ambos casos, los sistemas detectaron las actividades y se tomaron medidas para bloquear su uso.

Sin embargo, estos episodios muestran que la inteligencia artificial ya forma parte de la carrera tecnológica en ámbitos como la ciberseguridad, la biología y los sistemas militares.

Entonces, ¿la IA realmente podría acabar con la humanidad?

La respuesta no es sencilla.

Existen investigadores que consideran que los riesgos de una IA altamente avanzada podrían llegar a ser extremadamente graves. Otros especialistas cuestionan algunos de los escenarios más catastróficos y señalan que todavía existen enormes barreras entre las capacidades actuales de los modelos y una máquina capaz de actuar por sí sola a escala global.

Lo que sí resulta evidente es que la inteligencia artificial está adquiriendo cada vez más capacidades para utilizar herramientas, acceder a información y ejecutar determinadas tareas de manera autónoma.

El verdadero desafío será determinar hasta dónde permitir que esos sistemas actúen por sí mismos y qué controles deben existir cuando sus decisiones puedan tener consecuencias en el mundo real.

La discusión sobre el futuro de la IA, por tanto, no se limita a preguntarnos si una máquina algún día podría destruir a la humanidad.

También plantea una pregunta mucho más cercana:

¿Qué tan preparados estamos para evitar que los errores de una inteligencia artificial terminen convirtiéndose en errores humanos con consecuencias reales?