¿Cuál sería un excelente libro de partida para aprender sobre teoría de la información?

Estoy de acuerdo en que el libro de Gleick The Information: A History, a Theory, a Flood, es probablemente su mejor opción, porque prácticamente hace lo que quiere (sin las ecuaciones). Gleick es un escritor excelente.

En términos más generales, para obtener una comprensión intuitiva de la teoría de la información, leería el libro de John Pierce (An Introduction to Information Theory, 1960). Pierce era un colega de Shannon, por lo que el libro ofrece una visión contemporánea de la teoría de la información. Incluye ecuaciones, pero también mucha discusión sobre el significado de estas ecuaciones.

En el libro de Shannon y Weaver (1949), la Parte 1 es de Weaver, y contiene una descripción bastante discursiva de la teoría de la información. La parte 2 es de Shannon, y es muy técnica. Esto solía estar disponible gratuitamente en línea como un archivo pdf, pero el enlace que tengo está roto; Si alguien tiene un enlace que funcione, entonces tal vez podrían publicarlo aquí.

Finalmente, aquí está mi (muy) historia en maceta:

“9.7. Una muy breve historia de la teoría de la información

Incluso el científico más talentoso no puede ordenar una teoría original de la nada. Así como Einstein no podría haber ideado sus teorías de la relatividad si no tuviera conocimiento del trabajo de Newton, Shannon no podría haber creado la teoría de la información si no tuviera conocimiento del trabajo de Boltzmann (1875) y Gibbs (1902) sobre la entropía termodinámica, Wiener (1927) sobre procesamiento de señales, Nyquist (1928) sobre teoría de muestreo o Hartley (1928) sobre transmisión de información.

A pesar de que Shannon no estaba solo al tratar de resolver uno de los problemas científicos clave de su tiempo (es decir, cómo definir y medir la información), estaba solo al poder producir una teoría matemática completa de la información: una teoría que de otro modo podría tener tomó décadas para construir. En efecto, Shannon, por sí solo, aceleró la tasa de progreso científico, y es completamente posible que, sin su contribución, todavía estaríamos tratando la información como si fuera un fluido vital mal definido. ”

Elementos de la teoría de la información, 2a edición

Thomas M. Cover, Joy A. Thomas

Elementos de la teoría de la información, 2a edición

No lo he leído, pero este parece prometedor: la información: una historia, una teoría, un diluvio