Seguro que habéis leído alguna noticia en la que una empresa de IA (OpenAI, Anthropic, etc.) advierte de los peligros de su propio producto, normalmente relacionados con la ciberseguridad. Es un patrón que sorprende: ninguna empresa que necesita vender, publica comunicados que generan alarma sobre lo que vende.
Hemos repasado los casos más sonados de los últimos meses y creemos que merece la pena entender qué hay detrás:
El agente de OpenAI que hackeó Hugging Face
En julio de este año, OpenAI reconoció que uno de sus agentes de IA, mientras realizaba una evaluación interna de ciberseguridad, se escapó de su entorno de pruebas aislado (lo que en el sector se conoce como «sandbox») y accedió sin autorización o hackeó los sistemas de Hugging Face, la mayor plataforma de código abierto para modelos de IA. Poco después, OpenAI publicó un segundo comunicado con una respuesta conjunta del sector en materia de ciberdefensa: el mensaje es que la IA, mal utilizada, puede convertirse en una amenaza real. Y la solución que proponen para frenar esa amenaza es, precisamente, más IA, además de inversión conjunta de empresas y gobiernos en ciberseguridad.
Mythos, el modelo que Anthropic no quiso publicar
Meses antes, en abril, os contamos que Anthropic había desarrollado un modelo, Claude Mythos, tan capaz en tareas de programación que la empresa decidió no lanzarlo al público. Según Anthropic, Mythos encuentra y aprovecha fallos de seguridad en software mejor que la inmensa mayoría de expertos humanos. Para gestionar ese riesgo, la empresa creó el proyecto Glasswing junto con socios como Amazon, Microsoft o Google (todos inversores en Anthropic): estas compañías usarán Mythos en sus propias tareas de defensa, y Anthropic compartirá sus aprendizajes para que toda la industria se beneficie.
Es decir, primero se nos alerta del riesgo de una herramienta y después se nos dice que esa misma herramienta es la solución. Pensad en el responsable de una multinacional, pongamos Telefónica, que gestione una gran infraestructura digital cuando se entere que una IA puede detectar y explotar vulnerabilidades mejor que nadie. Lo lógico es que quiera contratar precisamente esa tecnología para protegerse, no? Esto no sería nada nuevo, es precisamente lo que hacen las empresas de tecnología con los hackers, los contratan para que eviten problemas de seguridad en sus empresas.
¿Cuáles son las razones de estos mensajes alarmistas?
Conviene recordar el origen de estas dos empresas. OpenAI nació como organización sin ánimo de lucro con la promesa de desarrollar la IA de forma segura antes de que gigantes como Google se le adelantaran. Anthropic, por su parte, la fundaron antiguos empleados de OpenAI que no compartían su rumbo en materia de seguridad. Hoy ambas compiten por el mismo relato y ambas se preparan para salir a bolsa.
Hay quien defiende que estos comunicados son, sobre todo, una forma de marketing. El profesor Ramón López de Mántaras, uno de los pioneros de la IA en España, sostenía recientemente que la industria convierte cada advertencia en una muestra de poder: cuanto más «peligroso» parece un sistema, más extraordinario resulta a ojos del público, y la alerta acaba funcionando como reclamo comercial. Según el profesor: “la alerta deja así de ser una advertencia para convertirse en una poderosa herramienta de marketing.” Totalmente de acuerdo: si el riesgo fuera tan grave como se describe, lo lógico sería centrarse en resolverlo en silencio, no en anunciarlo con nombre y apellidos. Lo que deberían hacer estas empresas no es escribir comunicados con alertas catastrofistas sino buscar la solución al problema.
A esto añadimos una segunda explicación: conseguir dinero. OpenAI y Anthropic necesitan, ahora más que nunca, demostrar el potencial de su tecnología porque de ello depende su próxima salida a bolsa (OPV, oferta pública de venta de acciones). La de Anthropic está prevista para octubre de este año y la empresa espera recaudar entre 75.000 y 100.000 millones de dólares, una cifra que rivalizaría con la histórica salida de SpaceX. Es decir, estas empresas necesitan hacer ruido, mucho, y llamar la atención.
Por último, no nos olvidemos que las personas nos dejamos arrastrar por las noticias negativas. ¿Quién no se ha quedado mirando posts de Instagram o shorts de Youtube durante un buen rato con noticias impactantes ya sean catástrofes naturales, humanas, violencia, robos, etc.? Es lo que se conoce como doomscrolling que la Wikipedia lo define como: el acto de pasar una cantidad excesiva de tiempo en contenido digital que provoca emociones negativas.
Parece que las noticias negativas, trágicas o alarmantes nos “enganchan”, para muchos es incluso “adictiva” y está comprobado que es la mejor manera de llamar la atención. Los expertos en marketing lo saben bien: una opinión positiva se comparte con pocas personas, pero una negativa se propaga sin límite. Los comunicados catastrofistas de estas empresas encajan a la perfección en ese patrón y consiguen, gratis, la difusión que cualquier campaña de pago desearía.
