1916'da Michigan'da bir hakim ve bir öğretmenin oğlu olarak dünyaya gelen ve 2001 yılında hayata gözlerini yuman Claude Elwood Shannon , 20. asrın en önemli matematikçilerinden biri ve bilgi teorisinin kurucusu kabul ediliyor.
Massachusetts Teknoloji Enstitüsü'nde (MIT) uzun yıllar matematik profesörü olarak görev yapmış olan Shannon, özellikle bilgi teorisi, dijital mantık, rastgele sayı üretimi ve bilgisayar mimarisi gibi alanlarda önemli katkıların sahibi.
1937'de yazdığı ve 20. asrın en önemli yüksek lisans tezi kabul edilen " Röle ve Anahtarlama Devrelerinin Sembolik Analizi " adlı çalışmasından yayınladığı bir makalede Shannon, anahtarlama devrelerinin, o sırada telefon arama yönlendirme anahtarlarında kullanılan elektromekanik rölelerin düzenlemesini basitleştirmek için kullanılabileceğini ispat etti. Mantığı uygulamak için elektrik anahtarlarının bu özelliğini kullanma fikri, tüm elektronik dijital bilgisayarların üzerine kurulduğu dijital devre tasarımının temeli oldu.
Shannon, 1948 yılında yayımladığı " Bir İletişim Teorisi " adlı makalesinde, iletişim sistemleri için matematiksel bir model sunarak, mesajların nasıl kodlanacağı, aktarılacağı ve çözüleceği hakkında fikirler önerdi. Dijital teknolojilerin gelişmesinde önemli bir rol oynayan ve günümüzde hala birçok alanda kullanılan veri sıkıştırma, veri şifreleme ve rastgele sayı üretimi gibi tekniklerin temelinde yatan matematiksel teorilerini ortaya koydu.
Shannon, dijital çağda iletişim ve bilgi işlemdeki temel araçlardan biri haline gelen "bilgi teorisini", mesajların aktarımı üzerinden, bilgi işlemdeki temel kavramlar ve prensiplerle ilgili yeni bir disiplin olarak tanımlamıştı.
Makalesinde, mesajların belirli bir oranda bilgi taşıdığını ve iletişim kanallarındaki gürültü ve hataların, mesajın taşıdığı bilgiyi azalttığını göstermişti. Ayrıca, kodlama teorisi, bilgi sıkıştırma, veri şifreleme ve rastgele sayı üretimi gibi alanları da kapsayan birçok konuya da değinmişti.
Bilgi teorisi, günümüzde internet, cep telefonları, radyo, televizyon ve diğer elektronik cihazlar gibi teknolojilerin temelinde yatan matematiksel teorilerden biri. Özellikle, veri sıkıştırma ve veri şifreleme teknikleri, günümüzde en çok kullanılan teknolojiler. Bu teknikler sayesinde, veriler daha hızlı ve güvenli bir şekilde aktarılıp ve saklanabiliyor.
Shannon, bir kaynak tarafından üretilen bilginin miktarını, örneğin bir mesajdaki miktarı, fizikte termodinamik entropiyi tanımlayan denkleme benzer bir formülle tanımlamıştı. En temel ifadeyle, bir mesajı kodlamak için gereken ikili (binary) basamak sayısıydı bu. İkili rakamın (binary digit) kısaltması olan "bit" kelimesi de ilk kez onun makalesinde kullanılmış olabilir.