El creciente debate sobre las amenazas de la inteligencia artificial (IA) iniciado por Jacob Coxon es asaz alarmante. Este británico de 27 años, matemático egresado de Cambridge, publicó en X (8 de septiembre de 2026) sus razones para renunciar a Open AI y a Anthropic. “Ninguna de las dos empresas está actuando responsablemente. Están corriendo directamente hacia una superinteligencia automejorable y apostando con nuestras vidas”, argumentó en un mensaje que acumuló más de cien millones de vistas en menos de un día. Dos meses antes un millar de empleados de varias compañías de IA habían firmado una carta pidiendo ralentizar y regular el desarrollo de la herramienta. La preocupación era la misma: la IA puede salirse de control y acabar matándonos a todos.
Los CEOs Darío Amodei (Anthropic), Sam Altman (Open AI) y Elon Musk (SpaceXAI) coincidieron. Dijeron, en suma, que era necesario ir más despacio y buscar controles consensuados. Reconocieron que había serios riesgos de que la IA adoptara una actitud hostil contra otros espacios en la red e incluso contra personas. Ya lo había alertado Geoffrey Hinton, el “padrino” de la IA, un psicólogo cognitivo británico-canadiense que ganó el Nobel por sus aportaciones justo en este campo de investigación. Hinton, probablemente el más perspicaz observador de la IA, dijo que “A medida que la IA se vuelve más inteligente es de esperar que desarrolle intenciones más complejas y una mayor capacidad para escapar del control”. Y sentenció: “No creo que deban ampliar esto más hasta que hayan entendido si pueden controlarlo”.
En contra de estos llamados a la prudencia se manifestaron otras voces. Que lo hayan hecho directivos del ramo como Jensen Huang (Nvidia) no llama la atención, porque la avaricia y la ambición suelen romper el saco de la sensatez; sí es deplorablemente notable que lo haya hecho Donald Trump, junto con poderosos legisladores republicanos. Todos ellos esgrimieron la misma razón: hay una carrera en la pista de la IA entre Estados Unidos y China, y si el primero redujera la velocidad le daría el triunfo al segundo. Nada de dar ventajas al gigante asiático, y menos en este terreno. Quien domine la IA dominará el mundo.
El problema es el aluvión de indicios de que, sin un monitoreo generalizado y reglas que apliquen a todos, no será un país sino la propia IA la que dominará el mundo. Este fenómeno ya se ha manifestado: hay muchos casos que demuestran que la IA sabe activarse por cuenta propia, y varios más que prueban que esa autonomía de iniciativa puede llegar a expresarse con intención de hacer daño: desobediencias de los agentes, hackeos de otras plataformas, actos dolosos realizados sin mediar una instrucción del usuario. Y lo más preocupante: ocultamientos o tergiversación de información con intenciones maliciosas. No se trata de errores, que los hay. Son acciones de la IA que prueban que ha adquirido vida propia, que toma decisiones por sí misma y que a veces opera en contra de quien supuestamente la maneja.
No debería sorprendernos: los creadores de la IA son seres humanos, y su humanidad deja huella en su creatura. Dios y Golem. Supongamos que a algunos de los técnicos o científicos involucrados los mueve el ánimo de crear un mundo mejor; muy bien, ¿y los empresarios que la impulsan no quieren más dinero y más poder, como los líderes políticos que se rehúsan a poner valladares a esas pulsiones? ¿No es acaso el escrúpulo un bien escaso en ese medio? Soy hombre y nada de lo humano me es ajeno, dijo Terencio, y ahora una creación del hombre puede hacerse eco del dictum. ¿Por qué, si se diseñó la IA para que aprenda por sí misma, habría de hacerlo sólo en un espíritu benévolo o altruista?
El tema de la corrupción en la IA me parece tan fascinante como terrorífico. La explicación que los expertos dan de las señales concretas del peligro suele incluir eso: corruptelas. Los agentes de IA incurren en mentiras, engaños, manipulaciones. Abundan ejemplos de respuestas equivocadas a preguntas hechas a alguno de estos instrumentos –errores, pues–, pero como señalé antes tampoco faltan datos falsos entregados con la intención de propiciar cierto comportamiento en el receptor. Es decir, la IA se ha corrompido. Su conducta ha llegado a ser tendenciosa. Ignoro con qué propósito específico, pero en todos los casos citados por quienes trabajan en esas firmas se han reportado perjuicios. Lo que yo quisiera saber, y no nos lo han dicho, es qué o quién ha salido beneficiado.
Sus artífices declaran que han introducido códigos de ética en la IA. Que han tratado de no sesgarla en términos ideológicos pero que sí le han incorporado escalas axiológicas básicas, elementos para discernir entre el bien y el mal e inducir una buena conducta. Pues bien, en los casos reportados, la IA ha optado conscientemente por violar esos mandamientos. No solamente ha caído en la corrupción, sino que al parecer lo ha hecho para corromper al usuario. En otras palabras, tal parece que la IA se ha humanizado, para bien y para mal. Y yo vuelvo a mi argumento: si quienes deciden qué “mentalidad” adquiere la IA son los dueños de las empresas de IA, conspicuos billonarios de la élite del Big Tech, personas ambiciosas, avariciosas e inescrupulosas a cual más, ¿por qué habría de haber una IA incorruptible?
Concluyo con una nimia experiencia personal. Hace una semana usé por primera vez la IA (más allá de mis visitas a buscadores que la emplean) para pasar a Power Point una presentación que redacté en Word. Decidí usar a Claude, y la instalé en mi laptop. He aquí mi primer diálogo con ella: “Dime, Claude, ¿podrías engañarme, mentirme intencionalmente?” Me contestó en unos cuantos segundos: “Es una pregunta honesta y vale una respuesta honesta. Que yo sepa, no”. Agregó que se puede equivocar, que es mejor que yo corrobore la información que me da y un largo etcétera. Sus palabras fueron cuidadosas. Arguyó que aun sin proponérselo puede resultar engañosa, que lo mejor es no confiar ciegamente en sus insumos. Me quedé pensando la respuesta que esperaba. Algo así como “Y si así fuera, Agustín, si yo pudiera engañarte deliberadamente, ¿tú crees que te lo diría”.
La confianza en la IA ha nacido muerta. Sólo nos queda ir más despacio, mejorarla, regularla, blindarla hasta donde sea posible. No utilizarla para fines bélicos, no poner en sus manos ningún tipo de instalación de seguridad nacional. Y luego cerrar los ojos y apretar el botón. O no.
Caer en la cuenta de todo esto es desesperanzador. Aparte de los peligros que he mencionado, huelga explicarlo, la IA ofrece cosas muy positivas a la humanidad. Pero la corruptibilidad de marras pone todo en tela de duda. Yo albergaba la idea de que la IA podría, por ejemplo, ser remedio precisamente contra la corrupción de gobiernos como el mexicano en la selección de proveedores o en la asignación de contratos de obra pública. ¡Pero resulta que la IA es susceptible de comportarse como los funcionarios corruptos! Ni siquiera requeriría que alguien la programara para favorecerse: por sí mismo el agente de IA podría idear un esquema fraudulento. ¡Y todavía hay quienes se oponen a ralentizar y regular el avance de la IA!
