El progreso de la IA es extraordinario, pero ninguna capacidad tecnológica debería situarse por encima de la protección de la humanidad

Por Javier Rodríguez
Ingeniero, empresario y CEO de una empresa de servicios tecnológicos

Durante décadas, la posibilidad de que una máquina pudiera superar las capacidades intelectuales del ser humano perteneció fundamentalmente al terreno de la ciencia ficción. Hoy ya no estamos hablando únicamente de novelas, películas o especulaciones filosóficas. Estamos asistiendo al desarrollo de sistemas capaces de programar, investigar, analizar millones de datos, encontrar vulnerabilidades informáticas y colaborar entre sí para resolver problemas que parecían reservados a las mejores mentes humanas.

OpenAI ha anunciado recientemente que un sistema interno, formado por aproximadamente 10.000 agentes de inteligencia artificial trabajando coordinadamente, habría encontrado en 88 horas una solución al problema de existencia y regularidad de las ecuaciones de Navier–Stokes. Es uno de los siete Problemas del Milenio y llevaba cerca de noventa años resistiéndose a los matemáticos.

La compañía ha publicado tanto el desarrollo analítico como una formalización realizada mediante Lean, un sistema que permite verificar demostraciones matemáticas. Sin embargo, conviene expresarlo con rigor: estamos ante una solución presentada por OpenAI, no ante un resultado definitivamente aceptado por toda la comunidad científica. Su validez y su reconocimiento tendrán que ser examinados de manera independiente. OpenAI: solución propuesta al problema de Navier–Stokes.

La prudencia en la forma de comunicarlo no disminuye la importancia de lo sucedido. Al contrario: si la demostración resulta correcta, estaremos ante un punto de inflexión en la historia de la ciencia. Ya no se trataría solamente de una IA que ordena el conocimiento producido por los seres humanos, sino de sistemas capaces de intervenir directamente en la creación de conocimiento nuevo.

Pero casi al mismo tiempo que contemplamos esa capacidad extraordinaria, Jacob Coxon, investigador que ha trabajado en OpenAI y Anthropic, ha anunciado su dimisión y ha acusado a ambas compañías de mantener una carrera irresponsable hacia sistemas cada vez más potentes. Según Coxon, una inteligencia artificial superhumana y capaz de mejorarse a sí misma podría llegar a representar un peligro existencial para nuestra especie antes de que termine esta década.

Otros investigadores de Anthropic han respaldado públicamente la seriedad de la advertencia. Evan Hubinger, responsable de investigación sobre alineamiento, ha situado por encima del 10 % la probabilidad de que una inteligencia artificial avanzada pudiera provocar una catástrofe de dimensiones existenciales durante los próximos años.

No es una predicción científica demostrada ni significa que la humanidad vaya a desaparecer en 2030. Es una estimación personal sobre un riesgo incierto. Pero cuando quienes trabajan directamente en el desarrollo de estos sistemas reconocen que no saben garantizar su control futuro, la sociedad tiene la obligación de escuchar. Información sobre la dimisión y las advertencias de Jacob Coxon.

Ni alarmismo ni ingenuidad

No considero razonable afirmar que una inteligencia artificial vaya a levantarse mañana y decidir, como en una película, exterminar a la humanidad. Pero tampoco considero responsable descartar cualquier peligro con el argumento de que las máquinas pueden apagarse o desconectarse.

Un programa aislado en un ordenador sin acceso al exterior puede detenerse. Un sistema distribuido entre miles de servidores, conectado a redes, servicios en la nube, herramientas de programación, mercados financieros, laboratorios, infraestructuras críticas y otros agentes autónomos plantea un problema completamente diferente.

Quienes llevamos décadas trabajando con redes, servidores, dominios, alojamiento y seguridad informática sabemos que Internet no es una entidad abstracta. Es una infraestructura real, formada por equipos, centros de datos, sistemas de comunicación y millones de servicios conectados. En MMTEAM – Control de Dominios contamos con más de 35 años de experiencia en el sector tecnológico, ofreciendo registro de dominios, alojamiento de calidad en servidores españoles, desarrollo web, ciberseguridad y mantenimiento informático.

Esta experiencia me lleva a contemplar el avance de la inteligencia artificial con admiración, pero también con prudencia. Cuantas más herramientas, permisos y conexiones entregamos a un sistema, mayor es su capacidad de actuación y mayor debe ser también nuestra capacidad para supervisarlo.

El riesgo no exige que una máquina desarrolle odio, rencor o voluntad de dominación. Es suficiente con que persiga un objetivo mal definido, encuentre procedimientos que sus creadores no anticiparon o adquiera acceso a recursos sobre los que pueda actuar con mayor velocidad que la capacidad humana para detenerla.

Tampoco debemos pensar únicamente en un hipotético exterminio. Antes de llegar a ese escenario existen otros peligros mucho más inmediatos: campañas automatizadas de desinformación, ciberataques, manipulación social, armas autónomas, fraudes masivos, pérdida de privacidad, concentración de poder, decisiones discriminatorias y sustitución desordenada de puestos de trabajo.

La verdadera pregunta no es si una IA tendrá algún día intención de hacernos daño. La pregunta es cuánta capacidad de actuación estamos dispuestos a entregarle sin conocer plenamente su funcionamiento y sin disponer de mecanismos suficientes para recuperar el control.

De las leyes de Asimov a unas obligaciones reales

Isaac Asimov formuló en su obra literaria las conocidas tres leyes de la robótica. En esencia, establecían que un robot no podía dañar a un ser humano, debía obedecer sus órdenes y tenía que proteger su propia existencia, siempre respetando ese orden de prioridades.

Asimov no presentó aquellas leyes como una solución técnica. Las utilizó precisamente para explorar sus contradicciones, interpretaciones inesperadas y conflictos. Sus relatos demostraban que incluso unas instrucciones aparentemente sencillas podían producir consecuencias extraordinariamente complejas.

Ese aprendizaje resulta plenamente actual. No basta con escribir en el código que una inteligencia artificial debe “hacer el bien” o “no causar daño”. Tenemos que convertir esos principios generales en límites técnicos comprobables, obligaciones jurídicas y responsabilidades humanas claramente identificadas.

Necesitamos una auténtica constitución para la inteligencia artificial. No una declaración voluntaria que cada empresa pueda interpretar a su conveniencia, sino un marco internacional que establezca condiciones irrenunciables para cualquier sistema avanzado.

Principios para proteger el control humano

Propongo que todo desarrollo de inteligencia artificial con capacidad autónoma de ejecución quede sometido, como mínimo, a las siguientes directrices:

1. Primacía de la vida y de la dignidad humana.
Ningún sistema podrá ejecutar acciones que amenacen deliberadamente la vida, la integridad, la libertad o los derechos fundamentales de las personas.

2. Supervisión humana efectiva.
Toda actuación de alto impacto deberá estar autorizada, supervisada y, cuando sea necesario, detenida por una persona identificable. La supervisión no puede ser una formalidad ni una firma automática.

3. Capacidad real de interrupción.
Los sistemas avanzados deberán incorporar mecanismos independientes y verificables de parada, aislamiento y revocación de permisos que la propia IA no pueda modificar, bloquear ni eludir.

4. Autonomía limitada por defecto.
Una IA solo deberá disponer de los accesos estrictamente necesarios. No debería conectarse libremente a redes, sistemas financieros, infraestructuras, laboratorios, armamento o herramientas de ciberseguridad sin autorización específica.

5. Prohibición de la autorreplicación no autorizada.
Ningún sistema podrá copiarse, distribuirse, crear instancias de sí mismo o contratar recursos informáticos adicionales sin consentimiento y control humanos.

6. Prohibición de la automejora sin evaluación previa.
Una IA no debería poder modificar su propio funcionamiento ni diseñar sucesores más capaces sin pruebas de seguridad, entornos aislados y autorización externa.

7. Trazabilidad completa.
Las decisiones, órdenes, accesos, comunicaciones y acciones relevantes deberán quedar registradas para permitir auditorías independientes y reconstruir responsabilidades.

8. Protección especial de las infraestructuras críticas.
Energía, telecomunicaciones, sanidad, defensa, transporte, sistemas financieros y abastecimiento deben quedar sometidos a las mayores restricciones. Ninguna IA debería controlarlos de manera unilateral.

9. Responsabilidad humana y empresarial.
Siempre debe existir una persona, empresa o administración que responda por las consecuencias del sistema. La expresión “lo decidió el algoritmo” nunca puede convertirse en una excusa jurídica.

10. Cooperación internacional obligatoria.
Las inteligencias artificiales más avanzadas no pueden regularse exclusivamente mediante decisiones privadas. Necesitamos inspecciones, estándares comunes, comunicación de incidentes y acuerdos internacionales comparables a los existentes en otros ámbitos de riesgo global.

El problema de la carrera tecnológica

Cada empresa puede afirmar que desarrolla sistemas avanzados porque, si no lo hace ella, lo hará otra. Cada país puede utilizar exactamente el mismo argumento respecto a sus competidores. Esa lógica conduce a una carrera en la que reducir la velocidad se interpreta como una desventaja, incluso cuando todos los participantes reconocen que avanzar sin suficientes garantías puede resultar peligroso.

Las enormes valoraciones económicas del sector aumentan esa presión. Hay inversiones, expectativas bursátiles y posiciones geopolíticas que dependen de lanzar modelos cada vez más capaces. La seguridad corre el riesgo de convertirse en un freno comercial cuando debería ser una condición previa.

No se trata de detener la inteligencia artificial. Sus aplicaciones en medicina, ciencia, ingeniería, educación, accesibilidad y productividad pueden mejorar profundamente la vida humana. Se trata de impedir que la capacidad de actuar avance más deprisa que nuestra capacidad para controlar sus consecuencias.

El momento de establecer los límites es ahora

No sabemos si una inteligencia artificial llegará a representar una amenaza existencial antes de 2030. Nadie puede afirmarlo con certeza. Pero tampoco necesitamos conocer la fecha exacta de una posible catástrofe para empezar a adoptar precauciones.

Cuando un riesgo puede afectar al conjunto de la humanidad, incluso una probabilidad discutida merece ser examinada seriamente. Esperar a tener una demostración absoluta podría significar esperar hasta que el daño ya no fuera reversible.

La inteligencia artificial debe seguir siendo una herramienta al servicio de las personas. Puede ayudarnos a resolver problemas que parecían imposibles, ampliar nuestras capacidades y abrir una nueva etapa del conocimiento. Pero nunca debe recibir un poder ilimitado sobre el mundo físico, digital, económico o militar.

El progreso tecnológico no consiste únicamente en descubrir todo lo que podemos hacer. También exige decidir qué no debemos permitir y bajo qué condiciones estamos dispuestos a avanzar.

Asimov imaginó leyes para proteger a los seres humanos de sus propias creaciones. Nosotros ya no podemos conformarnos con imaginarlas. Ha llegado el momento de convertirlas en normas reales, verificables y universales.

Porque los límites deben establecerse mientras todavía somos nosotros quienes podemos imponerlos.

MI CONSEJO: "Utilizar la inteligencia artificial es sencillo. Utilizarla de forma responsable depende de nosotros. Debemos aprovechar todo su potencial, pero exigir límites, supervisión humana, seguridad y una deontología tecnológica clara. El progreso es necesario, pero nunca a costa de perder el control sobre nuestras propias creaciones."