Клод Элвуд Шеннон – американский математик, инженер-электронщик и специалист в области криптографии, обладатель множества наград, известный как создатель теории информации.
Именно наш герой предложил когда-то использовать всем известное сегодня понятие "бит" в качестве эквивалента наименьшей единицы информации.
Шеннон прославился как человек, давший начало теории информации в эпохальной статье, опубликованной им в 1948 году. Помимо этого, ему приписывают также идею создания цифрового компьютера и цифровых технологий вообще, причем еще в 1937 году, когда Шеннон был 21-летним студентом Массачусетского Технологического Института, работавшим над получением магистерской степени – он написал тогда диссертацию, в которой продемонстрировал, что применения булевой алгебры в сфере электроники могли бы построить и решить любые логические, числовые
связи. Написанная на основе диссертации статья принесла ему премию Американского института инженеров-электриков в 1940.
Во время Второй мировой войны Шеннон сделал значительный вклад в сфере криптоанализа, работая над обороной страны, включая его фундаментальный проект по взламыванию кодов и обеспечению безопасных телекоммуникаций.
Шеннон родился 30 апреля 1916 года в Петоцки, маленьком городке в Мичигане (Petoskey, Michigan), и вырос в соседнем Гэйлорде (Gaylord, Michigan). Его отец был из тех людей, что сделал себя сам. Потомок первых поселенцев Нью-Джерси (New Jersey), он был бизнесменом и судьей. Мать Клода преподавала английский и некоторое время возглавляла ср
еднюю школу Гэйлорда. Большую часть первых 16 лет своей жизни Шеннон провел как раз в Гэйлорде, в 1932 году окончил местную школу. С детства он увлекался конструированием механических и электрических моделей. Его любимыми предметами были естественные науки и математика, а дома, в свободное время, он строил модели самолетов, радиоуправляемую модель лодки и даже беспроводной телеграф, соединявший его с дом с домом друга, жившего в полумиле от Шеннонов.
Подростком Клод подрабатывал в качестве курьера компании "Western Union". Героем его детства был Томас Эдисон (Thomas Edison), который, как позже оказалось, приходился ему еще и дальним родственником. Оба они были потомк
ами Джона Огдена (John Ogden), колониального лидера 17-го века и по совместительству предка множества выдающихся людей. Чем не интересовался Шеннон, так это политикой. Кроме того, он был атеистом.
В 1932 году Клод стал студентом Мичиганского Университета, где один из курсов познакомил его с тонкостями алгебры Буля. Окончив университет в 1936 с двумя степенями бакалавра, по математике и электротехнике, он продолжил занятия в МТИ, где работал на одном из первых аналоговых компьютеров, дифференциальном анализаторе Ванневара Буша (Vannevar Bush) – именно тогда он понял, что концепции булевой алгебры могут применяться с большей полезностью. Диссертация Шеннона на степень м
агистра называлась "Символьный анализ реле и коммутаторов", и специалисты считают ее одной из самых важных диссертаций на степень магистра в 20-м столетии.
Весной 1940 Шеннон защитил в МТИ и докторскую степень по математике с диссертацией "Алгебра для теоретической генетики", и в следующие 19 лет, с 1941 по 1956, преподавал в Мичиганском Университете и работал в компании "Bell Labs", где его интерес вызвали противопожарные системы и криптография (именно этим он занимался во время Второй мировой).
В "Bell Labs" Шеннон познакомился со своей будущей женой Бетти (Betty Shannon), которая занималась числовым анализом. Они поженились в 1949. В 1956 Шеннон вернулся в МТИ,
где ему предложили кафедру, и проработал там 22 года.
Среди его хобби были жонглирование, катание на моноцикле и шахматы. Он изобрел огромное количество разных забавных устройств, включая летающие диски с ракетным двигателем, "кузнечик" с моторчиком и трубу, извергающую пламя, для научной выставки. Он так же считается, вместе с Эдвином Торпом (Edward O. Thorp), изобретателем первого переносного компьютера – они использовали это устройство для повышения шансов на выигрыш при игре в рулетку, и их набеги на Лас-Вегас (Las Vegas) были очень успешными.
Свои последние годы Шеннон провел в доме престарелых, страдая болезнью Альцгеймера. Его не стало 24 февраля 2001 года.
Клод Элвуд Шеннон – ведущий американский учёный в сфере математики, инженерии, криптоаналитики.
Он приобрёл мировую известность, благодаря своим открытиям в области информационных технологий и изобретению «бит» (1948 г.), как самой маленькой информационной единицы. Его считают основоположником информационной теории, основные положения которой до сих пор актуальны в разделе высокотехнологичной связи и современных коммуникаций.
Шенноном также было впервые введено понятие «энторопия» , что говорит о неопределённой мере передаваемой информации.
Этот учёный первым применил научный подход для информационной идей и законов криптографии, обосновав свои мысли в работах о математической теории связи, а также о теории связи в секретных системах.
Большой вклад внёс он и в развитие кибернетики, обосновав такие ключевые моменты, как вероятностность схемы, игровую научную концепцию, а также мысли о создании автоматов и управленческой системы.
Детские и юношеские годы
Клод Шеннон появился на свет в американском Петоски, что в штате Мичиган. Это радостное событие случилось 30.04.1916-го.
Отец будущего учёного занимался бизнесом в сфере адвокатуры, а затем был назначент судьёй. Мать – преподавала иняз и со временем получила должность директора школы в Гэйлорде.
Математические наклонности были присущи Шеннону-старшему. Ключевую роль в формировании склонности к научной деятельности у внука сыграл дедушка – фермер и изобретатель.
В его арсенале создание стиральной машинки и некоторых видов прикладной сельхозтехники. Примечательно, что Эдисон имеет родственные связи с этой семьёй.
В 16-летнем возрасте Клод закончил среднюю школу, где преподавала его мать. Успел поработать курьером в Western Union, занимался конструированием различных устройств.
Его интересовало моделирование самолётов и радиотехники, ремонт небольших радиостанций. Он своими руками сделал лодку с радиоуправлением, телеграф для связи с другом.
Как уверяет сам Клод, его абсолютно не интересовали только политика и вера в Бога.
Студенческие годы
Университет Мичигана распахнул перед Шенноном свои двери в 1932 году. Учёба здесь открыла для него труды Дж. Буля. Диплом бакалавра по математике и электротехнике Клод получил в 1936 г.
Его первым местом работы стала должность ассистента-исследователя в технологическом университете Массачусета. Научную деятельность Клод вёл в качестве оператора механического компьютерного устройства, созданного его учителем В.Бушем.
Глубоко вникнув в концептуальные научные разработки Буля, Шеннон понял возможность их практического применения. Защитив магистерскую диссертацию в 1937 г., которую курировал Фрэнк Л. Хичкок, он перешёл в известную Bell Telephone Laboratories, где выпустил материал по символическому анализу в схемах переключения и с задействованием реле.
Он был размещён на страницах специального журнала институтом инженеров-электриков в США (1938 г.).
Основные положения статьи раскрыли усовершенствование маршрутного посыла телефонного вызова, благодаря замене реле электромеханического типа на переключающую схему. Молодой учёный обосновал концепцию о возможности решения применением схем всех задач Булевой алгебры.
Эта работа Шеннона получила Нобелевскую премию в области электрической инженерии (1940 г.) и стала основой для создания логических цифровых схем в электрических цепях. Этот магистерский труд стал настоящим научным прорывом ХХ века, положив начало созданию электронной вычислительной техники современного поколения.
Буш рекомендовал Шеннону заняться диссертацией на получение степени доктора математических наук. Серьёзное внимание им было уделено математическим исследованиям в тесной связи с генетическими законами наследственности известного Менделя. Но эта работа так и не получила должного признания и впервые была опубликована только в 1993 г.
Немало сил учёным было отдано построению математического фундамента для различных дисциплин, особенно информационных технологий. Этому способствовало его общение с видным математиком Г. Вейлем, а также Дж. Фон Нейманом, Энштейном, Гёделем.
Военный период
С весны 1941 г. до 1956 г. Клод Шеннон работает на оборону США, разрабатывая управление огнём и обнаружение врага при ведении противовоздушной обороны. Он создал устойчивую межправительственную связь президента США с английским премьером.
Национальной премии в области научных исследований он был удостоен за свой доклад об организации двухполюсных переключающих цепей (1942 г.).
Учёный заинтересовался идеями англичанина Тьюринга по шифрованию речи (1943 г.), и уже в 1945-м выпустил работу об усреднении данных и прогнозировании для систем управления огнём. Его соавторами стали Ральф Б. Блэкмен и Х. Боде. Смоделировав специальную систему, обрабатывающую информацию и спецсигналы, они положили начало информационному веку.
Секретный меморандум К. Шеннона в области математической теории криптографии (1945 г.) доказал, что криптография и теория связи – неразделимы.
Послевоенный период
Это время ознаменовано его меморандумом о теории связи с математической точки зрения (1948 г.) в части кодировки передаваемых текстов.
Дальнейшая работа Шеннона вплотную связана с информационной теорией в области разработки игр, в частности колеса рулетки, машины, читающей мысли, а также машины по сбору кубика Рубика.
Учёный воплотил идею, позволяющую сжать информацию, которая позволяет избежать её потерю при распаковке.
Учёный создал школу, где периодически вёл семинары, где учил студентов находить новые подходы к решению тех или иных задач.
Известны его научные исследования в области финансовой математики. Среди них, электрическая цепь денежного течения в американских пенсионных фондах и обоснование выбора портфеля инвестиций при распределении денежных активов.
Многие сравнивают популярность Клода Шеннона с Исааком Ньютоном.
После 1978 г., на пенсии он занялся теорией жонглирования и сконструировал специальную машину.
Сборник своих статей Клод Шеннон выпустил в 1993 году, куда вошли 127 его научных работ.
Завершающий жизненный этап
Последние годы он провёл в Массачусетском доме-интернате из-за болезни Альцгеймера . Здесь, по заверению его жены Мэри Элизабет, Клод участвовал в исследованиях по изучению способов её лечения.
Вся семья постоянно находилась рядом с ним. Смерть наступила 24.02.2001 г.
У Шеннона остались единственная жена, брак с которой продлился с марта 1949 г. У них родились трое детей Роберт, Андрю, Маргарита.
Клод Элвуд Шеннон (30 апреля 1916 — 24 февраля 2001) — американский математик, инженер-электрик, и криптограф, известный как «отец теории информации».
Шеннон известен, за написание основ теории информации, Математической Теории связи, которые он опубликовал в 1948 году. В 21 год будучи магистром в Массачусетском технологическом институте (МТИ) , он писал диссертацию, доказывая, что электрическим применением Булевой алгебры можно строить любые логические, числовые отношения. Клод Элвуд Шеннон внес большой вклад в область криптоанализа для национальной обороны во время Второй Мировой Войны, включая его основные работы по codebreaking и надежности телекоммуникаций.
В 1950 году Шеннон опубликовал статью о компьютерных шахматах под названием «Программирование компьютера для игры в шахматы». Он описывает, как машина или компьютер могут быть запрограммированы, чтобы играть в логические игры, в шахматы. За процессом хода компьютера отвечают так называемые минимаксные процедуры, на основе оценки функции заданной шахматной позиции. Шеннон привел грубый пример оценки функции, в котором значение черной позиции была вычтена из белой позиции. Значения были посчитаны по оценке обычной шахматной фигуры (1 балл за пешку, 3 очка за рыцаря или епископа, 5 баллов за ладью, и 9 баллов за королеву). Он рассмотрел некоторые позиционные факторы, вычитая 0,5 балла за каждую сдвоенную пешку, отсталые и изолированные пешки и добавляя 0,1 балл за каждый хороший ход. Цитата из документа:
«Коэффициенты 0.5 и 0.1 это лишь грубая оценка писателя. Кроме того, существует много других условий, которые должны быть включены. Формула дана только для наглядности.»
В 1932 году Шеннон был зачислен в Мичиганский университет, где на одном из курсов познакомился с работами Джорджа Буля. В 1936 году Клод окончил Мичиганский университет, получив степень бакалавра по двум специальностям (математик и электротехник), и устроился в Массачусетский технологический институт (MIT), где работал ассистентом-исследователем. Он выполнял обязанности оператора на механическом вычислительном устройстве, аналоговом компьютере, называемом «дифференциальный анализатор», разработанным его научным руководителем Вэниваром Бушем. Изучая сложные, узкоспециализированные электросхемы дифференциального анализатора, Шеннон увидел, что концепции Буля могут получить достойное применение. После того, как он проработал лето 1937 года в Bell Telephone Laboratories, он написал основанную на своей магистерской работе того же года статью «Символический анализ релейных и переключательных схем». Необходимо отметить, что Фрэнк Лорен Хичкок контролировал магистерскую диссертацию, давал полезную критику и советы. Сама статья была опубликована в 1938 году в издании Американского института инженеров-электриков (AIEE). В этой работе он показал, что переключающиеся схемы могут быть использованы для замены схем с электромеханическими реле, которые использовались тогда для маршрутизации телефонных вызовов. Затем он расширил эту концепцию, показав, что эти схемы могут решить все проблемы, которые позволяет решить Булева алгебра. Также, в последней главе он представляет заготовки нескольких схем, например, 4-разрядного сумматора. За эту статью Шеннон был награждён Премией имени Альфреда Нобеля Американского института инженеров-электриков в 1940 году. Доказанная возможность реализовывать любые логические вычисления в электрических цепях легла в основу проектирования цифровых схем. А цифровые цепи - это, как известно, основа современной вычислительной техники, таким образом, результаты его работ являются одними из наиболее важных научных результатов ХХ столетия. Говард Гарднер из Гарвардского университета отозвался о работе Шеннона, как о «возможно, самой важной, а также самой известной магистерской работе столетия».
По совету Буша Шеннон решил работать над докторской диссертацией по математике в MIT. Буш был назначен президентом Института Карнеги в Вашингтоне и предложил Шеннону принять участие в работе по генетике, которую вела Барбара Беркс. Именно генетика, по мнению Буша, могла послужить предметом приложения усилий Шеннона. Сам Шеннон, проведя лето в Вудс Хоул, Массачусетс, заинтересовался нахождением математического фундамента для законов наследования Менделя. Докторская диссертация Шеннона, получившая название «Алгебра теоретической генетики», была завершена весной 1940 года. Однако эта работа не была выпущена в свет вплоть до 1993 года, пока она не появилась в сборнике Шеннона «Collected Papers». Его исследования могли стать весьма важными в противном случае, но бо́льшая часть этих результатов была получена независимо от него. Шеннон получает докторскую степень по математике и степень магистра по электротехнике. После этого он не возвращался к исследованиям в биологии.
Шеннон также был заинтересован в применении математики в информационных системах, таких как системы связи. После очередного лета, проведенного в Bell Labs, в 1940 году Шеннон на один академический год стал научным сотрудником в Институте перспективных исследований в Принстоне, штат Нью-Джерси, США. Там он работал под руководством известного математика Германа Вейля, а также имел возможность обсудить свои идеи с влиятельными учеными и математиками, среди которых был Джон фон Нейман. Он также имел случайные встречи с Альбертом Эйнштейном и Куртом Гёделем. Шеннон свободно работал в различных дисциплинах, и эта способность, возможно, способствовала дальнейшему развитию его математической теории информации.
Знаете ли Вы,
в чем ложность понятия "физический вакуум"?Физический вакуум - понятие релятивистской квантовой физики, под ним там понимают низшее (основное) энергетическое состояние квантованного поля, обладающее нулевыми импульсом, моментом импульса и другими квантовыми числами. Физическим вакуумом релятивистские теоретики называют полностью лишённое вещества пространство, заполненное неизмеряемым, а значит, лишь воображаемым полем. Такое состояние по мнению релятивистов не является абсолютной пустотой, но пространством, заполненным некими фантомными (виртуальными) частицами. Релятивистская квантовая теория поля утверждает, что, в согласии с принципом неопределённости Гейзенберга, в физическом вакууме постоянно рождаются и исчезают виртуальные, то есть кажущиеся (кому кажущиеся?), частицы: происходят так называемые нулевые колебания полей. Виртуальные частицы физического вакуума, а следовательно, он сам, по определению не имеют системы отсчета, так как в противном случае нарушался бы принцип относительности Эйнштейна, на котором основывается теория относительности (то есть стала бы возможной абсолютная система измерения с отсчетом от частиц физического вакуума, что в свою очередь однозначно опровергло бы принцип относительности, на котором постороена СТО). Таким образом, физический вакуум и его частицы не есть элементы физического мира, но лишь элементы теории относительности, которые существуют не в реальном мире, но лишь в релятивистских формулах, нарушая при этом принцип причинности (возникают и исчезают беспричинно), принцип объективности (виртуальные частицы можно считать в зависимсоти от желания теоретика либо существующими, либо не существующими), принцип фактической измеримости (не наблюдаемы, не имеют своей ИСО).
Когда тот или иной физик использует понятие "физический вакуум", он либо не понимает абсурдности этого термина, либо лукавит, являясь скрытым или явным приверженцем релятивистской идеологии.
Понять абсурдность этого понятия легче всего обратившись к истокам его возникновения. Рождено оно было Полем Дираком в 1930-х, когда стало ясно, что отрицание эфира в чистом виде, как это делал великий математик, но посредственный физик , уже нельзя. Слишком много фактов противоречит этому.
Для защиты релятивизма Поль Дирак ввел афизическое и алогичное понятие отрицательной энергии, а затем и существование "моря" двух компенсирующих друг друга энергий в вакууме - положительной и отрицательной, а также "моря" компенсирующих друг друга частиц - виртуальных (то есть кажущихся) электронов и позитронов в вакууме.
Клод Э́лвуд Ше́ннон (англ. Claude Elwood Shannon; 30 апреля 1916, Петоцки, Мичиган - 24 февраля 2001, Медфорд, Массачусетс) - американский математик и инженер, его работы являются синтезом математических идей с конкретным анализом чрезвычайно сложных проблем их технической реализации. Он является основателем теории информации, нашедшей применение в современных высокотехнологических системах связи. Шеннон внес огромный вклад в теорию вероятностных схем, теорию автоматов и теорию систем управления - области наук, входящие в понятие кибернетика.
Биография Клод Шеннон родился 30 апреля 1916 года в городе Петоцки, штат Мичиган, США. Первые шестнадцать лет своей жизни Клод провел в Гэйлорде, Мичиган, где он посещал общественную школу, а затем выпустился из высшей школы Гэйлорда в 1932 году. В юношестве он работал курьером службы Western Union. Отец его был адвокатом и в течение некоторого времени судьей. Его мать была преподавателем иностранных языков и, впоследствии, стала директором Гайлордской средней школы. Молодой Клод сильно любил конструировать автоматические устройства. Он собирал модели самолетов и радиотехнические цепи, также создал радиоуправляемую лодку и телеграфную систему между домом друга и своим домом. Временами ему приходилось исправлять радиостанции для местного универмага. Томас Эдисон был его дальним родственником.
В 1932 году Шеннон был зачислен в Мичиганский университет, где выбрал курс, посещая который начинающий ученый познакомился с работами Джорджа Буля. В 1936 г. Клод оканчивает Мичиганский университет, получив степень бакалавра по двум специальностям математика и электротехника, и устраивается в Массачусетский технологический институт, где он работал ассистентом-исследователем на дифференциальном анализаторе Ванневара Буша - аналоговом компьютере. Изучая сложные, узкоспециальные электросхемы дифференциального анализатора, Шэннон увидел, что концепции Буля могут получить достойное применение. Статья, написанная с его магистерской работы 1937 года «Символический анализ реле и коммутаторов», была опубликована в 1938 году в издании Американского института инженеров-электриков (AIEE). Она также стала причиной вручения Шэннону премии Американского института инженерии имени Альфреда Нобеля в 1940 году. Цифровые цепи - это основа современной вычислительной техники, таким образом результаты его работ являются одними из наиболее важных научных результатов ХХ столетия. Говард Гарднер из Гарвардского университета отозвался о работе Шэннона, как о «возможно, самой важной, а также самой известной магистерской работой столетия».
По совету Буша Шеннон решил работать над докторской диссертацией по математике в MIT. Идея его будущей работы родилась у него летом 1939 года, когда он работал в Cold Spring Habor в Нью-Йорке. Буш был назначен президентом Carnegie Institution в округе Вашингтон и предложил Шеннону принять участие в работе, которую делала Барбара Беркс по генетике. Именно генетика, по мнению Буша, могла послужить предметом приложения усилий Шеннона. Докторская диссертация Шеннона, получившая название «Алгебра для теоретической генетики», была завершена весной 1940 года. Шеннон получает Докторскую степень по математике и степень магистра по электротехнике.
В период с 1941 по 1956 гг. Шеннон преподает в Мичиганском университете и работает в компании Белл (Bell Labs). В лаборатории Белл Шеннон, исследуя переключающие цепи, обнаруживает новый метод их организации, который позволяет уменьшить количество контактов реле, необходимых для реализации сложных логических функций. Он опубликовал доклад, названный «Организация двухполюсных переключающих цепей». Шеннон занимался проблемами создания схем переключения, развил метод, впервые упоминавшийся фон Нейманом и позволяющий создавать схемы, которые были надежнее, чем реле, из которых они были составлены. В конце 1940 года Шеннон получил Национальную научно-исследовательскую премию. Весной 1941 года он вернулся в компанию Белл. С началом Второй мировой войны Т.Фрай возглавил работу над программой для систем управления огнем для противовоздушной обороны. Шеннон присоединился к группе Фрая и работал над устройствами, засекавшими самолеты противника и нацеливавшими зенитные установки, также он разрабатывал криптографические системы, в том числе и правительственную связь, которая обеспечивала переговоры Черчилля и Рузвельта через океан. Как говорил сам Шеннон, работа в области криптографии подтолкнула его к созданию теории информации.
С 1950 по 1956 Шеннон занимался созданием логических машин, таким образом, продолжая начинания фон Неймана и Тьюринга. Он создал машину, которая могла играть в шахматы, задолго до создания Deep Blue. В 1952 Шеннон создал обучаемую машину поиска выхода из лабиринта.
Шеннон уходит на пенсию в возрасте пятидесяти лет в 1966 году, но он продолжает консультировать компанию Белл (Bell Labs). В 1985 году Клод Шеннон со своей супругой Бетти посещает Международный симпозиум по теории информации в Брайтоне. Шеннон довольно долго не посещал международные конференции, и сначала его даже не узнали. На банкете Клод Шеннон дал короткую речь, пожонглировал всего тремя мячиками, а затем раздал сотни и сотни автографов изумленным своим присутствием ученым и инженерам, отстоявшим длиннейшую очередь, испытывая трепетные чувства по отношению к великому ученому, сравнивая его с сэром Исааком Ньютоном.
Клод Шеннон ушел из жизни 24 февраля 2001 года. Работа Шеннона «Теория связи в секретных системах» (1945) с грифом секретно, которую рассекретили и опубликовали только лишь в 1949 году, послужила началом обширных исследований в теории кодирования и передачи информации, и, по всеобщему мнению, придала криптографии статус науки. Именно Клод Шеннон впервые начал изучать криптографию, применяя научный подход. В этой статье, Клод определил основополагающие понятия теории криптографии, без которых криптография уже немыслима. Важной заслугой Шеннона является исследования абсолютно секретных систем, и доказательство их существования, а также существование криптостойких шифров, и требуемые для этого условия. Шеннон также сформулировал основные требования, предъявляемые к надежным шифрам. Он ввел ставшие уже привычными понятия рассеивания и перемешивания, и методы создания криптостойких систем шифрования на основе простых операций. Данная статья является отправным пунктом изучения науки криптографии.
Математическая теория связи
Статья «Математическая теория связи», была опубликована в 1948 году и сделала Клода Шеннона всемирно известным. В ней Шенноном изложил свои идеи, ставшие впоследствии основой современных теорий и техник обработки передачи и хранения информации. Результаты его работ в области передачи информации по каналам связи запустили по всему миру огромное число исследований. Шеннон обобщил идеи Хартли и ввел понятие информации, содержащейся в передаваемых сообщениях. В качестве меры информации передаваемого сообщения М, Хартли предложил использовать логарифмическую функцию. Шеннон первым начал рассматривать передаваемые сообщения и шумы в каналах связи с точки зрения статистики, рассматривая как конечные множества сообщений, так и непрерывные множества сообщений. Развитая Шенноном теория информации помогла решить главные проблемы, связанные с передачей сообщений, а именно: устранить избыточность передаваемых сообщений, произвести кодирование и передачу сообщений по каналам связи с шумами. Решение проблемы избыточности подлежащего передаче сообщения позволяет максимально эффективно использовать канал связи. К примеру, современные повсеместно используемые методы снижения избыточности в системах телевизионного вещания на сегодняшний день позволяют передавать до шести цифровых программ коммерческого телевидения, в полосе частот, которую занимает обычный сигнал аналогового телевидения. Решение проблемы передачи сообщения по каналам связи с шумами при заданном соотношении мощности полезного сигнала к мощности сигнала помехи в месте приема, позволяет передавать по каналу связи сообщения со сколь угодно малой вероятностью ошибочной передачи сообщения. Также, это отношение определяет пропускную способность канала. Это обеспечивается применением кодов, устойчивых к помехам, при этом скорость передачи сообщений по данному каналу должна быть ниже его пропускной способности. В своих работах Шеннон доказал принципиальную возможность решения обозначенных проблем, это явилось в конце 40-х годов настоящей сенсацией в научных кругах. Данная работа, как и работы, в которых исследовалась потенциальная помехоустойчивость, дали начало огромному числу исследований, продолжающихся и по сей день, уже более полувека. Ученые из Советского Союза и США (СССР - Пинскер, Хинчин, Добрушин, Колмогоров; США- Галлахер, Вольфовиц, Фейнштейн) дали строгую трактовку изложенной Шенноном теории. На сегодняшний день все системы цифровой связи проектируются на основе фундаментальных принципов и законов передачи информации, разработанных Шенноном. В соответствии с теорией информации вначале из сообщения устраняется избыточность, затем информация кодируется при помощи кодов, устойчивых к помехам, и лишь потом сообщение передается по каналу потребителю. Значительно была сокращена избыточность телевизионных, речевых и факсимильных сообщений, именно благодаря теории информации.
Большое количество исследований было посвящено созданию кодов, устойчивых к помехам, и простых методов декодирования сообщений. Исследования, проведенные за последние пятьдесят лет, легли в основу созданной Рекомендации МСЭ по применению помехоустойчивого кодирования и методов кодирования источников информации в современных цифровых системах.
Теорема о пропускной способности канала.
Любой канал с шумом характеризуется максимальной скоростью передачи информации, этот предел назван в честь Шеннона. При передаче информации со скоростями, превышающими этот предел, происходят неизбежные искажения данных, но снизу к этому пределу можно приближаться с необходимой точностью, обеспечивая сколь угодно малую вероятность ошибки передачи информации в зашумленном канале.