Herbert Simon: una riqueza de información, una pobreza de atención

Empieza una revisión de producto. En las pantallas hay más paneles de los que nadie mira: cohortes, embudos, mapas de calor, una gráfica que sube y otra que baja sin que nadie sepa cuál importa. Un asistente ha resumido en segundos cuatrocientas páginas de entrevistas. El backlog contiene más oportunidades "validadas" de las que el equipo podría construir en una década. Hay de todo, y en abundancia.

La reunión termina sin decisión. O con una peor de la que se habría tomado con la mitad de los datos y el doble de silencio.

Nos habían prometido lo contrario. Durante años tratamos la falta de información como el problema, y dimos por hecho que con más métricas, más señales y más contenido decidiríamos mejor. Ahora que podemos generar información sin fondo, tenemos todo lo que pedíamos y decidimos peor. En 1971, con un puñado de ordenadores en el mundo, Herbert Simon ya había explicado por qué:

«Lo que la información consume es bastante evidente: consume la atención de quienes la reciben. De ahí que una riqueza de información cree una pobreza de atención, y con ella la necesidad de repartir esa atención con eficiencia entre la sobreabundancia de fuentes que podrían consumirla.»

— Herbert A. Simon, Designing Organizations for an Information-Rich World (1971)

La información cuesta, y la paga quien la recibe

El ensayo tiene un título árido y casi nadie en producto lo ha leído. Su movimiento es de economía pura. En un mundo pobre en información, más información es riqueza. Cuando la información abunda, destapa una escasez que hasta entonces no se veía: la de aquello que la información consume. Y lo que consume resulta obvio en cuanto alguien lo dice. El coste de la información no está en producirla ni en transmitirla, que tiende a cero, sino en recibirla. Lo paga el destinatario, en tiempo y en capacidad de pensar.

Eso cambia lo que significa diseñar. En un mundo rico en información, el problema deja de ser producir más y pasa a ser filtrar mejor. En el mismo ensayo, Simon proponía una prueba para cualquier sistema de información nuevo: solo alivia a una organización si absorbe más información de la que produce. Un informe que resume otros diez y los sustituye la pasa. Un panel que suma sus cifras a todas las que ya había la suspende, por buenas que sean sus gráficas. Casi todo lo que construimos para "informar las decisiones" no sobreviviría a esa prueba.

Cada feed y cada sistema de recomendación trabajan bajo esa restricción, la nombren o no. He escrito sobre la crisis de la atención que define hoy casi cualquier producto digital, y la frase de Simon está en su centro. Los modelos generativos la llevan al extremo: cuando un texto verosímil no cuesta nada, lo único que sigue siendo escaso es la atención humana que ese texto reclama.

Simon no llegó a la atención desde los medios ni desde la tecnología. Llegó desde una pregunta mucho más antigua: ¿cómo decide nadie nada?

El hombre económico no existe

Simon (Milwaukee, 1916 - Pittsburgh, 2001) pasó su carrera en Carnegie Mellon y se negó a quedarse dentro de una sola disciplina. Ganó el premio Turing en 1975, con Allen Newell, por su trabajo en inteligencia artificial, y el Nobel de Economía en 1978. En 1956, los dos habían construido el Logic Theorist, un programa que demostraba teoremas de los Principia Mathematica. Escribió sobre organizaciones, sobre psicología de la resolución de problemas, sobre filosofía de la ciencia y sobre diseño. No era dispersión. Perseguía un único tema allí donde apareciera: cómo se toman las decisiones.

Su blanco era un personaje que la economía y la teoría de la gestión de su tiempo daban por supuesto: el hombre económico, el decisor perfectamente racional que conoce todas las alternativas, calcula todas las consecuencias y elige la mejor. Simon sostuvo que esa criatura no existe. Las personas no son irracionales. Su racionalidad tiene un tamaño: el de una mente finita, con información incompleta, poco tiempo y una capacidad de cálculo modesta. Lo llamó racionalidad limitada.

Describió lo que hace de verdad la gente dentro de una organización. Nadie recorre todas las opciones. Se consideran unas pocas, las que están a mano o sugiere la experiencia, se comparan con un umbral de "esto vale" y se elige la primera que lo supera.

Quien haya dirigido producto reconoce el mecanismo, aunque nuestros métodos finjan otra cosa. Ningún equipo enumera todas las funciones posibles y calcula cuál maximiza el valor. Se sopesan tres o cuatro caminos verosímiles contra lo que el equipo sabe y lo que da tiempo a construir, y alguien apuesta. La mayoría de los marcos de priorización son copias pobres de Simon: maneras de hacer que un juicio bajo restricciones parezca un cálculo.

De ahí sale su mirada sobre las organizaciones, más útil de lo que suena. Desde Administrative Behavior (1947), Simon trató la organización como una estructura para tomar decisiones. La jerarquía, los canales de comunicación y los procedimientos no son burocracia muerta. Son formas de partir un problema demasiado grande para una cabeza en trozos que puedan manejar varias. Quien decide qué equipo es dueño de qué decisión está dibujando las fronteras dentro de las que trabajará una racionalidad limitada. Verlo así ayuda a no tratar un problema de estructura como un problema de personas, uno de los errores más caros de una organización que crece.

Lo suficientemente bueno es una respuesta racional

A esa manera de decidir Simon le puso un nombre que hizo fortuna: satisficing, un cruce entre satisfy (satisfacer) y suffice (bastar). Buscar lo suficientemente bueno en lugar de lo mejor. Suena a rendirse. Es la forma racional de decidir cuando optimizar es imposible, porque buscar la opción perfecta cuesta más de lo que esa perfección añadiría.

Esto va contra buena parte de la cultura de métricas actual, que trata cada punto más de conversión y cada decimal más de retención como un avance por definición. Simon propone otra pregunta: ¿ha cruzado ya esta métrica la línea a partir de la cual deja de ser el cuello de botella? Si la ha cruzado, seguir puliéndola gasta lo más escaso que tiene el equipo, su atención, en algo que ya está bastante bien. Un equipo que persigue el último decimal de un indicador que ya cumplió su función no está siendo riguroso. Está calmando su propia necesidad de control.

Diseña quien quiere cambiar una situación

La última pieza es la de más consecuencias para nuestro oficio. En The Sciences of the Artificial (1969), Simon defendió que los artefactos (los productos, las organizaciones, el software) no obedecen leyes naturales. Dependen del ajuste entre lo que son por dentro y el entorno al que sirven. No describen lo que es, sino lo que podría ser. Estudiarlos pide una ciencia propia, y en su centro está el diseño.

«Diseña todo aquel que concibe cursos de acción orientados a transformar situaciones existentes en otras preferidas.»

— Herbert A. Simon, The Sciences of the Artificial (1969)

La definición es ancha a propósito. Diseña el ingeniero que traza un puente, y también la médica que prescribe un tratamiento y quien redibuja una organización. El diseño deja de ser un oficio decorativo, subordinado a la ingeniería "de verdad". Dirigir un producto no es administrar una fábrica de funciones. Es diseñar el ajuste entre lo que el producto es y lo que su entorno le pide, con una mente que nunca lo abarca entero.

El mismo libro recoge una parábola, publicada antes en The Architecture of Complexity (1962), que merece la pena robar. Dos relojeros, Hora y Tempus, fabrican relojes de mil piezas. Tempus monta cada reloj de una vez, y cada vez que suena el teléfono el reloj a medio hacer se le deshace. Hora monta subconjuntos estables de diez piezas, y una interrupción solo le cuesta la pieza que tiene entre manos. Hora prospera; Tempus se arruina. Los sistemas complejos que sobreviven están hechos casi siempre de módulos casi independientes. Es la razón de fondo por la que las organizaciones que fabrican software, cuando funcionan, se ordenan en torno a dominios acotados. Un sistema cuyas piezas no pueden cambiar por separado es un Tempus esperando la próxima llamada.

Dónde deja de bastar

Una teoría también satisface: basta para los casos para los que se construyó, y no más allá. La de Simon tiene dos bordes que importan a quien hace producto.

El primero está en cómo trata la atención: como un recurso escaso pero homogéneo, casi una moneda que se gasta en unidades intercambiables. No lo es. La atención distraída de quien pasa el pulgar por un feed y la atención honda de quien resuelve un problema difícil no son la misma sustancia en cantidades distintas. Son cosas distintas. Y su modelo dice poco sobre el poder: quién tiene derecho a reclamar la atención de quién, y cómo la jerarquía y el dinero deciden ese reparto mucho antes que cualquier cálculo de eficiencia. En una economía que vive de capturar atención, ese silencio no es un detalle.

El segundo es que tiende a dar por fijos los límites y el entorno. La racionalidad limitada describe muy bien cómo apañárselas dentro de una caja; dice menos sobre cuándo romperla, replanteando el problema hasta que la restricción desaparece. Y su ciencia de lo artificial supone un entorno lo bastante estable como para que el artefacto se ajuste a él. Lo digital rara vez lo tiene. En el software el problema nunca se está quieto: el producto cambia el entorno al que luego tiene que adaptarse, y "diseñar el ajuste" es perseguir un blanco que se mueve porque lo movemos nosotros. Es el terreno de los bucles de realimentación que estudió Donella Meadows.

Máquinas con racionalidad limitada

Es tentador pensar que la inteligencia artificial por fin acaba con la racionalidad limitada: aquí está, al fin, un decisor capaz de procesarlo todo. No es así. Los modelos actuales no escapan a Simon, lo industrializan. Tienen una ventana de contexto finita, deciden con información incompleta, se conforman con la respuesta suficientemente buena y no con la mejor. No hemos construido al hombre económico en silicio. Hemos construido otra racionalidad limitada, a otra escala, y a la vez hemos multiplicado el diluvio de información que satura la nuestra.

Hasta el vocabulario guarda un chiste. La arquitectura en la que se apoyan estos modelos se presentó en 2017 en un artículo titulado, sin rodeos, Attention Is All You Need. La máquina nacida del diluvio de información lleva en su corazón técnico la palabra que Simon puso en el centro del problema. No significan lo mismo. Para Simon, la atención es el recurso escaso que la abundancia agota; para el transformer, el mecanismo que decide a qué partes de la entrada mirar. Las dos tratan de repartir un foco que nunca alcanza para todo.

La próxima revisión

Vuelvo a la revisión de producto. La abundancia que la abruma no es un fallo de las herramientas. Es el mundo rico en información que Simon describió, cumplido con más fidelidad de la que él llegó a ver. Lo que no escuchamos fue la segunda mitad de su frase: ese mundo trae consigo una pobreza nueva, y ninguna cantidad de datos ni de modelos fabrica más atención.

La próxima revisión tendrá, seguramente, más paneles que esta. Antes de añadir otro, conviene contestar una pregunta más sencilla: ¿cuántos de los paneles que hay en la pantalla se podrían apagar sin que nadie decidiera peor?