La noticia que circuló esta semana fue sin duda la publicación de la carta “A call for collective action on cyber defense” firmada y convocada por OpenAI (la empresa desarrolladora de ChatGPT y DALL-E), en donde convoca a las grandes empresas de inteligencia artificial a defenderse de una IA rebelde (rogue AI) (rogue puede significar descontrolada, insubordinada, suelta). La carta es pública y vale la pena leerse [https://openai.com/collective-cyberdefense/].

En español, la carta se titula «Un llamado a la acción colectiva para la ciberdefensa» y la firman 155 organizaciones. Están OpenAI, Anthropic y Google, que compiten entre sí todos los días por el mejor modelo de lenguaje masivo de IA (LLM). Están Microsoft, Amazon, IBM, Cisco y Oracle. Están Visa, Mastercard, PayPal, Citi y BBVA. Están General Motors, Uber, Adobe y SAP. Y está también buena parte de la industria de seguridad informática. La lista en sí misma ya es la noticia. Ciento cincuenta y cinco competidores no firman el mismo texto por una mera cortesía. El documento subraya la urgencia de que las grandes organizaciones tecnológicas cooperen para proteger infraestructuras críticas frente a la creciente sofisticación de los ataques cibernéticos asistidos por inteligencia artificial. Así es, la ficción nos ha alcanzado (la buena noticia: No, no es Skynet).

La carta comienza con una advertencia clara: «en los próximos meses, los ciberataques asistidos por IA serán más frecuentes y complejos». Y pone sobre la mesa, sin rodeos y con mucha claridad, lo que está en juego: hospitales, redes de suministro de agua y la propia infraestructura de internet.

Vale la pena detenerse a analizar esto. Hablamos de ataques asistidos por IA, no de una máquina que de pronto cobra conciencia. Se trata de delincuentes, actores (hackers) y otros grupos operando con herramientas considerablemente más potentes que las que teníamos hace apenas el año pasado.

La carta admite dos lecturas. La primera invita a reflexionar sobre los riesgos y los desafíos que implica el control de sistemas tecnológicos cada vez más autónomos. La segunda, a arreglar lo que llevamos años sin arreglar. ¿Quiénes? Cualquiera que opere sistemas de IA de los que dependan personas. La carta nombra tres: hospitales, distribuidoras de agua potable y gobiernos; añadiendo que sus equipos de seguridad han sufrido años de carencias presupuestales destinadas a la ciberseguridad. Pero el llamado es para todo tipo de organización que, incluso, nunca haya pensado en este asunto.

Las instituciones educativas están en esa lista. No quedan fuera ni por tamaño ni por misión. Según Check Point Research —el área de inteligencia de amenazas de una de las firmas de ciberseguridad más antiguas del sector, y también una de las 155 firmantes—, entre enero y julio de este año una organización educativa recibió en promedio 4,696 ciberataques por semana: más del doble que el promedio de todas las industrias. En América Latina la cifra llegó a 4,299 semanales, con un crecimiento del 42% respecto al año anterior. Las instituciones enfrentan miles de intentos de intrusión semanales, con el ransomware como la amenaza principal. Ninguna universidad puede leer eso y suponer que el asunto es de otros.

Cuando enumera por qué estamos expuestos, la carta no menciona nada futurista: (1) errores viejos sin corregir [longstanding bug], (2) permisos excesivos, (3) configuraciones mal hechas, (4) software inseguro y sin actualizar, (5) contraseñas débiles y (6) deuda técnica en sistemas heredados. Nada de eso lo inventó la inteligencia artificial. Lleva años allí, esperando. ¿Cuántas de esas seis cosas ocurren ahora mismo en tu teléfono?

Si estas deficiencias llevan años presentes, ¿qué ha cambiado realmente? Ahora, cualquier individuo puede emplear la IA para ejecutar ciberataques maliciosos a una escala que antes requería todo un equipo especializado, y todo esto en tiempo récord. Sin embargo, el panorama también ha mutado a nuestro favor: «Los avances actuales de la IA ya están dando a los defensores nuevas formas de reparar debilidades acumuladas durante años». Estas herramientas potencian a quienes protegen los sistemas. La misma herramienta empuja en dos direcciones opuestas.

El documento tiene cuatro destinatarios: las organizaciones, las empresas de ciberseguridad, los gobiernos y las empresas de IA de frontera. La atención se está poniendo donde están los principales responsables en el desarrollo de tecnología, y no sobre el ciudadano al que se le pediría defenderse solo de un problema que no creó. Pero las consecuencias sí aterrizan en tu casa (en tu laptop y en tu teléfono). El hospital donde te atienden, el banco donde cae tu nómina, el sistema que factura el agua, el sistema que cobra tus colegiaturas. Cuando esas cosas fallan, no fallan para las empresas: fallan para las personas.

Y hay algo que sí nos toca, aunque sea mucho menos espectacular que lo que el título de la carta prometía. Los ataques que van a llegar no serán de ciencia ficción. Serán los de siempre. El mensaje del banco, la llamada urgente de un familiar, el correo del jefe pidiendo una transferencia. Lo que cambia es el acabado: sin faltas de ortografía, en español impecable, con datos tuyos que alguien recopiló, y a veces con una voz que se parece demasiado a la de alguien que conoces. ¿Con qué la distinguirías hoy?

⚠️ La inteligencia artificial no inventó el fraude. Le quitó los errores que lo delataban ⚠️.

Por eso la defensa en lo particular, la doméstica, sigue siendo aburrida y sigue funcionando. Verificar por otro canal antes de mover dinero, desconfiar de la urgencia, que es la herramienta más vieja del engaño, activar la verificación en dos pasos, actualizar lo que pide actualizarse. Nada de eso es nuevo. Quizá por eso casi nadie lo hace.

En una segunda lectura de la carta podemos encontrar una línea que conviene subrayar y que nos importa como Universidad, la carta pide elevar el estándar de seguridad de todo lo que se compra, se construye y se despliega, «incluido el código generado por IA» [mucho de lo que nuestra Dirección de Tecnología ya hace al día de hoy]. En un campus donde estudiantes y profesores producen software con asistentes todos los días, esto deja de ser una recomendación abstracta.

Queda una última señal.

Cuando ciento cincuenta y cinco empresas y organizaciones que compiten ferozmente firman el mismo texto, no están haciendo campaña. Están admitiendo que ninguna puede sola. La carta lo escribe con todas sus letras cuando sostiene que ninguna empresa debería controlar el futuro.

Esta carta habla de ciberdefensa, no de aprendizaje (como podría suponerse la narrativa de RAiSE). Pero el propósito de este proyecto estratégico (RAiSE) no es cubrir temas, sino provocar reflexión crítica, preguntas y conversaciones. Llevamos meses preguntándonos qué le hace la IA al aprendizaje de nuestros estudiantes, y esta carta pregunta quién está cuidando los sistemas donde viven sus expedientes. Las dos son preguntas de uso responsable. Ambas viven en el espacio de RAiSE.

La carta se lee en diez minutos. Fortalecer tu contraseña toma dos.

Recomiendo hacer las dos cosas esta semana.