¿Es ChatGPT uno de los hitos más importantes de la tecnología?

Como cofundador de Microsoft, una de las empresas tecnológicas más exitosas de todos los tiempos, Bill Gates ha visto toda una vida de innovaciones y, sin embargo, no deja de sorprenderse por todo lo nuevo que surge. En una reciente entrevista, Gates estaba muy entusiasmado con eso de la inteligencia artificial generativa (IA) que están desarrollando en OpenAI y que, de repente, nos ha invadido. Me quedo con esto que dijo: «es bastante impresionante que lo que estoy viendo en la IA solo en los últimos 12 meses sea tan importante como el PC, el PC con GUI (interfaz gráfica de usuario) o Internet. Como los cuatro hitos más importantes de la tecnología digital».

Está hablando de Inteligencia Artificial en general, pero el tema más candente es la herramienta de OpenAI conocida como ChatGPT. No puedes abrir una revista, un periódico, un medio digital, un blog, Youtube… estos días sin ver al menos un contenido sobre lo genial, estupendo y maravilloso que es ChatGPT.

Por si todavía es necesario… ¿qué es eso de ChatGPT que tiene a todo el mundo loco? Podríamos resumirlo brevemente diciendo que se trata de una herramienta de procesamiento de lenguaje natural impulsada por IA que te permite tener conversaciones humanas y más con un chatbot. El modelo de lenguaje puede responder preguntas y ayudarte con tareas como la redacción de correos electrónicos, ensayos y código…

La parte ‘GPT’ del nombre no es en honor al modelo deportivo de uno de los creadores, sino que significa Transformador Generativo Preentrenado, que es una forma elegante de decir que el programa está entrenado para aprender todo tipo de información utilizando técnicas de aprendizaje supervisadas y de refuerzo. Con el aprendizaje automático supervisado, recibe varios conjuntos de datos y se le da instrucciones sobre cómo clasificar esa información. El aprendizaje por refuerzo utiliza modelos en los que aprende a través del ensayo y error. ChatGPT ha sido entrenado en cantidades masivas, mucho, de datos, desde código informático y texto de Internet hasta sitios web, discusiones en foros y más.

OpenAI lanzó una versión preliminar de investigación del producto en noviembre pasado para dar a la gente la oportunidad de interactuar con él y ver cómo se puede usar. Es importante recordar que este producto todavía está en desarrollo. De hecho, su aprendizaje no incluye contenido más allá de 2021, por lo que aún queda mucha formación por hacer, vamos a alucinar… Además, las respuestas proporcionadas por ChatGPT pueden ser completamente erróneas, pero el chatbot parece tener plena confianza en ellas. Incluso los chatbots pueden aprender de la desinformación y, posteriormente, compartirla.

Aún así, el producto es lo suficientemente avanzado como para tener una idea real de lo que puede hacer. Los defensores como Bill Gates y muchos otros ven un futuro en el que los chatbots basados en IA pueden servir asesoramiento médico a personas que carecen de acceso a un médico, tutores de estudiantes que necesitan un impulso educativo o facilitar la investigación sobre una amplia gama de temas. Las posibilidades son realmente ilimitadas.

Los líderes visionarios de OpenAI ciertamente quieren que su tecnología se utilice para beneficiar a la sociedad y no para ningún propósito malicioso. Por supuesto, los que piensan en ‘cosas malas’ se burlan de esa idea.

Algunos ya están usando ChatGPT para generar código o contenido malicioso que se puede utilizar en ciberataques. Una de las características de ChatGPT es que escribe tan bien o mejor que una persona real, lo que lo hace ideal para generar mensajes de texto convincentes y personalizados que se pueden utilizar en ataques de phishing.

Los profesionales de la ciberseguridad también han descubierto evidencias de que los ‘malotes’ están utilizando ChatGPT para escribir código que cifra y descifra información como parte de los ataques de ransomware. La herramienta también puede escribir código como spyware, registradores de pulsaciones de teclas y virus que propagan malware. Además, ChatGPT es tan eficiente en el desarrollo de código de software que baja el listón para las personas que quieren entrar en ‘el negocio’ de la ciberdelincuencia.

Y como betanceiro, toca darle vuelta a la tortilla. Y es que si ChatGPT se puede utilizar con fines maliciosos, también se puede utilizar para mejorar la ciberseguridad.

OpenAI ofrece una API (Interfaz de Programación de Aplicaciones) para que ChatGPT pueda intercambiar información fácilmente con otras aplicaciones, de ahí que las empresas de ciberseguridad estén mirando a ChatGPT para saber cómo podría usarse para ayudar a detectar y mitigar las amenazas a las redes empresariales.

Los proveedores de seguridad ya están explorando cómo pueden alimentar artefactos o indicadores de amenazas a ChatGPT para que la herramienta recopile información relevante, analice los datos y las configuraciones del sistema y regrese con instrucciones paso a paso para la mitigación de amenazas. Esas instrucciones se pueden pasar a Slack o a un sistema de tickets para garantizar que el problema se resuelva.

Si bien este es un caso de uso perfecto para un chatbot basado en IA, la capacitación de 2021 y anterior que ChatGPT ha recibido hasta ahora dificulta su utilidad para la remediar los últimos tipos de amenaza. Pero, paciencia, todo llegará y se irá actualizando poniendo sobre la mesa, además, nuevos casos de uso.

Si ChatGPT puede generar mensajes de phishing convincentes, esos mismos mensajes se pueden utilizar para la formación de concienciación sobre seguridad. Los empleados pueden ser desafiados y probados para ver lo astutos que son al reconocer y responder a una amenaza de phishing, dando a la organización una idea de lo bien preparada que está para un ataque. Además, los piratas informáticos de sombrero blanco y los probadores de penetración pueden crear ataques realistas para probar la postura de seguridad de una empresa.

Esta tecnología también se puede utilizar para recopilar y analizar inteligencia de amenazas de una variedad de fuentes, incluida la famosa dark web. Dicha inteligencia puede alimentar las herramientas habituales de ciberseguridad para que sean más eficaces en la detección de amenazas. Estamos ante un bebé. ChatGPT todavía está en sus primeros días. Aun así, Bill Gates tiene razón cuando dice que los avances de la IA son un hito importante en la historia de la informática. No dejan de aparecer nuevos casos de uso, tanto buenos como malos. Y eso está causando un gran revuelo en el sector de la ciberseguridad, y con razón.