GOLEM #3: Cómo evitar el golem autista

Este es el tercer artículo de esta serie #Golem, que pretende profundizar en el fenómeno que le da nombre: el problema de la automatización demenciada.

En el primer artículo definíamos el porqué del problema y llegábamos a la conclusión de que nuestro pensamiento analítico había producido sistemas compuestos de una colección de trocitos de máxima eficiencia pero de comportamiento demenciado porque les faltan dos cosas:

-comprender y gestionar su propio comportamiento agregado.

-ser capaces de escuchar y aceptar la respuesta del “otro” para ajustar el comportamiento, y

En el segundo artículo hablábamos del qué: la solución que necesitan los #golem para gestionar su comportamiento agregado, una tecnología que cumpliera con la función que tiene nuestro córtex frontal.

El objetivo de este tercer artículo es describir cómo es la tecnología que proporciona la capacidad de atender al contexto y adaptar el comportamiento de un sistema automático a cada situación.

1. Nuestra mente nos engaña con el futuro y el Principio de Ana Karenina

Cuando nos planteamos un objetivo, nuestra mente nos muestra un futuro simple. Tenemos claro dónde vamos y las acciones que tenemos que tomar para llegar. Desde mi casa al centro de mi ciudad, basta con coger mi coche y ponerme a conducir hasta llegar a mi destino. Muy fácil.

Cuando tenemos experiencia, recordamos casos pasados o problemas en recorridos similares, así que complicamos un poco la visión idílica inicial: quizás miremos antes de salir el mejor camino para llegar, o verifiquemos si tenemos gasolina suficiente.

En cualquier caso, para contárselo a otro humano seguiría siendo tan simple como lo hemos imaginado – “Mira, te cuento. Esto es muy fácil”– incluso si después va una lista larga de instrucciones.

Normalmente no hablaremos de todas las cosas que pueden ir mal: que nuestro coche no arranque, que haya una tormenta de nieve, que esté cortada la carretera de acceso…

Nuestra mente, que es precisamente el órgano que nos ayudaría a reaccionar a cualquier imprevisto, se resiste a pensar en todo lo que puede ir mal. Es posible incluso que aquéllos que comprenden con claridad lo que puede ir mal no emprendan nunca el viaje.

En cualquier caso, cuando queremos automatizar el viaje, utilizaremos lo que nuestra mente nos presenta, es decir su plan idílico. Describiremos las etapas, con mayor o menor detalle según nuestra experiencia, y obtendremos un sistema muy satisfactorio, correspondiente a nuestra idea interna. Como todos hemos oído alguna vez, “esto intuitivamente es muy fácil”.

«En teoría, no hay diferencia entre práctica y teoría. En la práctica, sí la hay». Yogi Berra

Cuando se empiece el camino real, es fácil que no se parezca mucho a lo que se pensó. Aun así, un humano sabrá adaptarse para conseguir su objetivo. La resiliencia será mayor cuanto más inesperados sean los imprevistos, que se suelen llamar “excepciones” cuando en realidad sólo son situaciones no descritas que se producen por mil razones, por ejemplo que los hechos se hayan producido en un orden diferente al que se había pensado. En procesos complejos como la formalización de hipotecas, eso ocurre en más del 90% de los casos.

Éste el problema: un sistema automático que se haya diseñado según nuestra idea idílica del futuro no puede adecuarse a los imprevistos. Cada desviación sobre lo previsto dejará al sistema sin recursos, como un tren que tuviera que viajar por donde aún no hay raíles.

Cuando esto pasa, el primer pensamiento es que el diseño se hizo mal. Y sin embargo, si las “excepciones” son todas diferentes, quiere decir que son imprevisibles por su variedad: no se pueden poner raíles a todas partes. Este efecto se produce precisamente en los procesos complejos y se llama el Principio de Ana Karenina, debido a la primera frase de la novela de León Tolstói:

«Todas las familias felices se parecen unas a otras, pero cada familia infeliz lo es a su manera».

Y describe los procesos en los cuales “una deficiencia en cualquiera de los factores que lo integran lo condenaría al fracaso” (Wikipedia).

2. El Ciclo de Boyd, los sistemas adaptativos y los Golem

El engaño de nuestra mente es que nos muestra un camino sencillo, siendo capaz de reaccionar bien a situaciones en los que ni siquiera ha pensado. En realidad, nuestra mente recorre 4 pasos para conseguir un objetivo: observa (de qué situación partimos), se orienta (dónde está el objetivo), decide un camino ideal (cómo llegamos al objetivo), y actúa (empieza el camino). Esta secuencia se denomina Ciclo de Boyd, o bucle OODA, por las iniciales de las 4 etapas. Se recorre de nuevo siempre que algo cambie o surja un imprevisto.

El nombre proviene del Coronel John Boyd, que estudió la supervivencia de los pilotos de guerra en la Segunda Guerra Mundial. En aquel entonces su conclusión fue una gran sorpresa: en un entorno en cambio constante, la mejor supervivencia no la tenían los pilotos que tomaran las mejores decisiones o que ejecutaran mejor. La mejor supervivencia la conseguían aquellos que podían ejecutar el ciclo más rápidamente, porque eran los que mejor conseguían adaptarse al entorno.

Volviendo a nuestra idea de futuro, parece que hay dos estrategias muy diferentes de enfrentarnos a la consecución de un objetivo:

LOS SISTEMAS ESTABLES

Cuando es posible llegar a un entorno controlado y estable, entonces el ciclo de Boyd se recorre una vez para definir el mejor recorrido posible. La optimización se orienta a la repetibilidad, reduciendo al máximo la dispersión de los casos.

El foco principal de este enfoque es el control para que el proceso ocurra tal como está previsto. Es el caso de los modelos de manufactura o de infraestructura como el ferrocarril. Es también el caso de los sistemas internos de los organismos, como el sistema digestivo por ejemplo.

La tecnología tradicional de procesos es de este tipo.

LOS SISTEMAS ADAPTATIVOS

Por el contrario, cuando no es posible conseguir un entorno estático, cada caso es el resultado de una negociación única que requiere una adaptación constante a la situación. Es el territorio de los ciclos de Boyd.

El foco principal es la adaptabilidad para maximizar la supervivencia de cada caso. La distribución de los resultados dependerá de la dificultad del objetivo, pero no es posible prever todas las posibilidades porque son demasiadas.

Este es el caso de los viajes marítimos, pero también de los procesos interactivos como los diálogos entre humanos y en general de cualquier negociación que implique agentes externos, como clientes por ejemplo.

Imagina un viaje marítimo que se intentara resolver con raíles y trenes. Imagina un diálogo en el cual todas las respuestas están previstas, como cualquier contestador con el que te hayas encontrado últimamente… Cuando un proceso del tipo adaptativo se resuelve utilizando tecnología del tipo estable, se crea un Golem: un sistema que no es capaz de adaptar su comportamiento cuando un caso particular se aparta del camino ideal que alguien pensó. En los diálogos complicados como la concesión de hipotecas, puede tratarse de más del 90% de los casos, y ocurre igual en multitud de casos que sufrimos a diario: portabilidad de un móvil o de un fijo, procesos de gestión de siniestros de un seguro de hogar…

3. Artifact-centric: la tecnología para procesos adaptativos

La tecnología para resolver procesos adaptativos o de alta variabilidad es muy reciente: nació hace apenas 10 años. Es un enfoque tan diferente de los procesos estables como la programación orientada a objeto lo es de la programación clásica y es igual de contraintuitiva, porque contradice nuestra manera de pensar en los objetivos de futuro.

En el enfoque tradicional, el esfuerzo se orienta a definir completamente el recorrido posible de cada caso: las líneas de producción en serie son un modelo que nos resulta muy satisfactorio.

Sin embargo, en otros casos el recorrido es tan variable (1) que se convierte en imprevisible. Abordado con el enfoque tradicional, el resultado crecería en complejidad hasta ser inoperable, porque la casuística es demasiado grande. El ferrocarril es una excelente solución para los viajes siempre que se limiten los trayectos permitidos, marcados con raíles. No es viable para los viajes por mar.

En el enfoque artifact-centric, se asume la variabilidad. Este principio reduce significativamente el esfuerzo de definición, puesto que no es necesario el control exhaustivo, sino la escucha de la situación. Para ello basta con definir 4 aspectos:

-qué datos hay que conocer para poder comprender la situación en cada caso,

-qué camino es el que habría que recorrer (cómo orientarse)

-qué decisiones deben tomarse (reglas de automatización de acciones) y

-qué acciones están disponibles.

Todos los casos están constantemente evaluando su propia situación y adaptándose a ella, sea fruto de las decisiones del cliente, del tiempo transcurrido o de lo que sea que influya en cada caso. Cada caso tendrá un recorrido propio, de acuerdo con las decisiones que todos los agentes que intervienen hayan ido tomando en el tiempo.

Como en los barcos, la tecnología de todas las naves es la misma, y sin embargo cada viaje será diferente para cada una.

4. ¿Cuál es cuál?

El reto consiste en utilizar lo más adecuado en cada caso: existen procesos claramente estables y son mucho más intuitivos. Por ejemplo, los procesos internos suelen ser muy homogéneos: verificar un pedido y enviarlo, pagar las nóminas, aprobar una nueva tabla de precios…

Los procesos adaptativos son los que tienen mayor casuística. Por ejemplo, aquellos en los que intervienen agentes externos a la organización, porque en la relación con el exterior no es posible la estandarización o reducción de la variabilidad.

El caso más evidente son los “Customer Journeys” o sendas de cliente, que siempre deberían poder hacer lo que el cliente quiera, en el orden que quiera. Cualquier proceso con más de un agente (el cliente, el operador de call center, algún proveedor) es de alta variabilidad. Como regla general, si en algún equipo de diseño se menciona la necesidad de “dejar los casos raros para la fase 2” o “enfocarse en la mayoría de los casos”, es casi seguro que se trata de un proceso adaptativo. Cuanto antes se cambie a la tecnología adecuada, más barata y fácil la puesta en marcha, mayor la satisfacción de cliente y mucho más bajo el coste operativo.

5. Conclusión

Los sistemas que hemos construido están compuestos de una colección de trocitos de máxima eficiencia, pero de comportamiento demenciado porque les faltan dos cosas:

-ser capaces de comprender y gestionar su propio comportamiento agregado.

-ser capaces de escuchar y aceptar la respuesta del “otro” para ajustar el comportamiento, y

Para resolver estas dos cosas es necesario cambiar la manera en la que se enfoca la gestión del tiempo y de las relaciones con agentes externos.

En nuestro organismo humano, ambas cosas tienen tanta importancia que han dado lugar a nuestra corteza frontal cerebral, el único componente que nos distingue en su funcionalidad de todos los demás seres vivos, que nos permite adaptar nuestro comportamiento al entorno en general y a mantener relaciones sociales efectivas.

En el mundo automático, matar al Golem quiere decir ser capaces de recubrir el funcionamiento interno con eso que antes aportaban los humanos: un componente de gestión de la relación, adaptado al entorno y a cada uno de los clientes con los que se está tratando. Hace muy poco que se sabe cómo hacerlo.

Cualquier transformación que no tenga en cuenta este aspecto adaptativo, seguirá creando #Golems.

Sylvia Díaz-Montenegro es CEO de Balandra Software

(1) Un ejemplo de Artifact-centric: https://balandrasw.com/es/artifact-centric/