¿Eres de los que hace las grandes preguntas o de los que sólo lee las respuestas?

Cuando la inteligencia artificial (IA) sea capaz de dar las mejores respuestas, ganará quien haga las mejores preguntas. Imposible no sumarse a la ola de admiración desatada por las fulgurantes posibilidades que abre la IA generativa. Pero sin olvidar el freno de mano. Bien lo saben las empresas de ciberseguridad, que suelen ver estos procesos de exaltación súbita con cierta expresión conmiserativa.

Los expertos en poner a prueba los sistemas desde el punto de vista de la seguridad no dejan de acumular anécdotas que demuestran la fragilidad de una tecnología que, una vez más, y cuántas tendrán que ser hasta que corrijamos las malas costumbres, ha sido diseñada sin tenerla en cuenta. La convención de hackers DefCon, que se clausura precisamente hoy en Las Vegas, ha hecho las delicias de 2.200 revientaLLMs (large language models) que se han ensañado durante días con los ocho grandes modelos de IA generativa actuales.

Los resultados de la sangría de Las Vegas no se conocerán hasta febrero, pero hay muchas experiencias ilustrativas similares. HiddenLayer engañó a un sistema de Google para que etiquetara un malware como inofensivo simplemente insertando una línea que decía «es seguro de usar». Investigadores de Carnegie Mellon han descubierto que los principales chatbots son vulnerables a ataques automatizados que también producen contenido dañino.

Un estudio de la Universidad Suiza ETH Zurich ha demostrado que corromper sólo el 0,01% de un modelo es suficiente para estropearlo, y eso cuesta sólo 60 dólares. Basta con que caduquen varios sitios web utilizados en los rastreos de la IA, comprar los dominios y publicar datos incorrectos sobre ellos. Sobre un escenario se ha podido comprobar cómo la asistente digital Alexa es engañada para que interprete un clip de una sinfonía de Beethoven como una orden para pedir 100 pizzas congeladas.

Podemos confiar en que la IA nos resuelva muchos problemas, pero no nos va a arreglar la vida. Seguirá siendo una tarea nuestra. Y el primer requisito para hacerlo con éxito como país será siempre plantear las cuestiones adecuadas. De ahí la trascendencia de eventos como el próximo Collaborate Reset the Economy de Atlas Tecnológico en Málaga. Un espacio de encuentro concebido para los que quieren ser protagonistas, para los que quieren hacer las preguntas, no para quienes quieren vivir sólo de las respuestas.

La revolución digital está provocando un cambio en la relación de las empresas con sus proveedores, clientes y trabajadores y en la forma en la que se organizan sus distintas áreas de actividad (operaciones, IT, comercial, negocio, I+D…). Estamos evolucionando de un sistema productivo lineal, con grandes OEM sectoriales que marcan las pautas de producción, los estándares y las certificaciones, en un esquema de gestión piramidal, a otro de carácter reticular, en el que la clave de la competitividad será la capacidad para orquestar a todos los componentes del ecosistema de la forma más eficiente valiéndose de la tecnología.

La tecnología se está democratizando, incluso algunas que parecían reducto de las grandes corporaciones, como explica magistralmente Fran Alcalá, ponente del Collaborate de Málaga, y es el momento de hacer partícipe a todo el tejido productivo de los aspectos más transformadores de la revolución digital. Cambia radicalmente la relación entre el sector público y el privado, obligados a cooperar de una forma innovadora, como apunta otro ponente, Guillermo Dorronsoro. Las potencia de las ideas será el factor diferencial en un momento en el que la ejecución está al alcance de cualquiera.

Si aún estás dudando si asistir un evento concebido para volcar propuestas que permitan resetear la economía, probablemente debes analizar a qué grupo has decidido adscribirte, si al de los que formulan las preguntas o al de los que leen las respuestas. Si eres de estos últimos, no te molestes, hay infinidad de eventos de mayor relumbrón, con pantallas gigantes y grandes promesas, muchas de las cuales no resisten el paso del tiempo. Si eres de los primeros, haz el favor, no vengas a Málaga sin haber hecho una reflexión previa de fondo, porque queremos ideas de calidad. Usaremos la IA generativa como herramienta, no como solucionador de problemas.