¿Qué es la información? De Shannon a Landauer

La información como reducción de incertidumbre

Hay palabras que usamos constantemente sin detenernos a pensar qué significan con precisión. Información es una de ellas. Decimos que un libro contiene información, que una conversación transmite información, que el ADN almacena información. Pero cuando intentamos fijar su significado, la noción se vuelve extrañamente difusa. ¿Es algo físico? ¿Es algo abstracto? ¿Tiene masa, ocupa espacio, consume energía?

Durante siglos, estas preguntas no tuvieron una respuesta formal. La información era una idea intuitiva, útil en la práctica, pero sin una definición rigurosa. Todo eso cambió en 1948, cuando un ingeniero y matemático llamado Claude Shannon transformó ese concepto en un objeto matemático preciso. Sin saberlo del todo, abrió una puerta conceptual que todavía no hemos terminado de atravesar.

Shannon trabajaba en los Laboratorios Bell, enfrentándose a un problema muy concreto: cómo transmitir mensajes de forma eficiente y fiable a través de canales físicos imperfectos. Las líneas telefónicas, las señales de radio o los cables de cobre introducen ruido, distorsión y pérdida de señal. El problema no era filosófico, sino técnico: cómo garantizar que un mensaje llegue correctamente utilizando la menor cantidad posible de recursos.

Para resolverlo, Shannon tuvo que hacer algo radical. Primero definió qué significa “información”, pero lo hizo eliminando todo lo que solemos asociar con el significado. En su teoría, la información no depende de lo que un mensaje quiere decir, sino de cuánto reduce la incertidumbre.

Un mensaje contiene información en la medida en que su aparición no era predecible de antemano. Si alguien dice que el sol saldrá mañana en el desierto del Sahara, ese mensaje no aporta prácticamente información: su ocurrencia era casi segura. En cambio, si alguien afirma que mañana nevará en el Sahara, el contenido informativo es enorme, precisamente porque era extremadamente improbable.

A partir de esta intuición, Shannon construyó una medida matemática exacta: la entropía informacional. Cuanto más impredecible es una fuente de mensajes, mayor es su entropía, y mayor es la cantidad de información que cada mensaje contiene. Una secuencia completamente predecible —por ejemplo, una cadena infinita de unos— no aporta información nueva. Una secuencia completamente aleatoria, en cambio, contiene la máxima cantidad posible de información, porque cada símbolo es una sorpresa absoluta.

En este marco aparece la unidad fundamental de la teoría: el bit, la cantidad mínima de información necesaria para resolver una decisión binaria entre dos opciones equiprobables. Cualquier estructura informacional, por complexa que parezca —un texto, una imagen, una sinfonía— puede, en última instancia, descomponerse en una secuencia de estas elecciones elementales.

Shannon demostró además algo crucial mediante su teorema de codificación de fuente: toda fuente de información tiene un límite teórico de compresión. Existe una cantidad mínima de bits necesaria para representar su contenido sin pérdida. Por encima de ese límite hay redundancia, información repetida que puede eliminarse. Por debajo de él, la pérdida de información es inevitable.


La entropía de la información y la entropía física

Pero quizás el concepto más profundo dentro de su teoría es el de información mutua. La información no es una propiedad aislada de un objeto, sino una relación entre sistemas. Un mensaje solo contiene información en la medida en que existe correlación entre el estado del emisor y el estado del receptor. Sin esa relación, no hay información en sentido estricto.

Durante un tiempo, la teoría de Shannon pareció una herramienta extraordinariamente útil para la ingeniería de comunicaciones, pero confinada a ese dominio técnico. Sin embargo, esa impresión no tardó en romperse cuando se descubrió una conexión inesperada con la física fundamental.

La entropía informacional de Shannon y la entropía de la física estadística resultaron ser, en esencia, la misma estructura matemática.

En la física del siglo XIX, la entropía había sido introducida para describir el comportamiento de sistemas termodinámicos como gases y calor. Ludwig Boltzmann la formuló en términos estadísticos como una medida del número de configuraciones microscópicas posibles que corresponden a un mismo estado macroscópico observable. Un gas ordenado, con sus moléculas concentradas en una región, tiene pocas configuraciones posibles y por tanto baja entropía. Un gas disperso por todo el recipiente tiene muchísimas configuraciones posibles y por tanto alta entropía.

La Segunda Ley de la Termodinámica establece que en un sistema aislado la entropía siempre tiende a aumentar. El orden espontáneo se disuelve hacia estados más probables, más desorganizados desde la perspectiva macroscópica.

Lo sorprendente es que la expresión matemática que Boltzmann utilizó para formalizar esta idea —$S = k \log W$— coincide estructuralmente con la fórmula de Shannon para la entropía informacional —$H = -\sum P_i \log P_i$—. No se trata de una analogía conceptual. Es una equivalencia formal profunda. Ambas expresan lo mismo: la cantidad de información que nos falta para describir completamente el estado microscópico de un sistema cuando solo conocemos su descripción macroscópica.


El Demonio de Maxwell y el coste de la información

Esta equivalencia permitió reinterpretar problemas clásicos de la física desde una perspectiva informacional. Uno de los más célebres es la paradoja del Demonio de Maxwell, propuesta en el siglo XIX. En ella, una entidad hipotética es capaz de observar moléculas individuales de un gas y separarlas según su velocidad, generando espontáneamente diferencias de temperatura sin realizar trabajo, lo que aparentemente viola la Segunda Ley de la Termodinámica.

Durante décadas, esta paradoja parecía señalar una grieta en la consistencia de la física. La resolución llegó cuando se comprendió que el acto de medir y manipular información tiene un coste físico.

El físico Rolf Landauer demostró que la información no es abstracta en sentido absoluto. En particular, el borrado de información tiene un coste energético mínimo inevitable. Cuando un sistema elimina un bit de información, disipa una cantidad mínima de energía en forma de calor al entorno, dada por la expresión $W = k_B T \ln 2$.

Esto cambia por completo el estatus de la información. Ya no es simplemente una herramienta descriptiva utilizada por observadores. Es una entidad con consecuencias físicas estrictas. Medir, almacenar, procesar o borrar información implica intercambios de energía y producción de entropía real en el mundo físico.

La paradoja del Demonio de Maxwell se disuelve en este marco: el demonio no viola las leyes de la termodinámica porque su capacidad de ordenar el sistema depende de adquirir, almacenar y finalmente borrar información, y ese último paso necesariamente incrementa la entropía total del universo.


La información como entidad física

En este punto, la información deja de ser un concepto puramente abstracto y comienza a revelarse como algo profundamente físico. No es solo una descripción del mundo: está entrelazada con su funcionamiento energético.

Lo que emerge de Shannon, Boltzmann y Landauer no es simplemente una teoría de la comunicación o una reinterpretación de la termodinámica, sino una convergencia estructural. Dos dominios que en principio parecían separados —la teoría de la información y la física estadística— resultan describir la misma realidad desde dos lenguajes distintos.

Y es precisamente en esa convergencia donde comienza a insinuarse algo más profundo: la posibilidad de que la información no sea únicamente una herramienta para describir la realidad física, sino un componente fundamental de la propia estructura del universo.