«Странная алгебра», философия упрощения и изобретение бита. К 107-летию со дня рождения Клода Элвуда Шеннона

в 6:05, , рубрики: timeweb_статьи_выходного_дня, абстракции, Биографии гиков, бит, Блог компании Timeweb Cloud, вэнивар буш, интерграф, Клод Элвуд Шеннон, криптография, математика, теория информации, Читальный зал
image

Как совершаются великие научные открытия? Как вообще работает механизм
«гениальности»?

Сегодня мы с вами попробуем раскрыть эту тайну – и понять, что не существует
универсального ответа на этот вопрос.

Клод Элвуд Шеннон наиболее популярные и революционные свои работы сделал
очень рано. Многие эксперты считают, что два его важнейших вклада в науку
магистерская диссертация 1938 г., развивающая метод использования булевой логики для представления схем, и его статья 1948 г. по теории связи, определившие область и революционный метод, с помощью которого мы обозреваем мир. Основа этих двух работ и большинства других его работ – идея, что математические концепции можно использовать для создания структур и понимания чего угодно.

Суть стиля научной работы Шеннона заключалась в его стремлении (и
способности) сначала сформулировать решаемую проблему в наиболее общей,
абстрактной форме, а затем перейти от нее к эквивалентной, но одновременно простейшей
форме, в которой выброшены несущественные детали и потому закономерности
изучаемого объекта становятся ясно видимыми. Именно этим подходом объясняется
способность Шеннона взять проблему и применить к ней математическую теорию,
революционизируя в результате сам способ рассмотрения данной области. Таков вклад
Шеннона во все области, в которых он работал, но в первую очередь – в теорию
переключений и теорию информации. Этот его вклад оказал большое влияние на
современное общество.

Большой интерес представляет методика, которую использовал Шеннон в работе
над теорией информации и другими проблемами. Сам он в лекции 1953 года описал эту
методику.

«Первое, о чем я должен сказать, это упрощение. Допустим, у вас есть проблема,
которую надо решить – построить машину, создать физическую теорию, доказать
математическую теорему и т. д. Тогда, вероятно, самый сильный подход к решению
этой проблемы – попытаться исключить из нее все второстепенное, оставив только
суть. Каждая проблема содержит данные разных типов, и, если вы выделите главные из
них, то яснее увидите, что надо делать и, вероятно, найдете решение. Иногда вы
можете упростить проблему до такого вида, который даже не похож на
первоначальную постановку, из которой вы исходили. Но очень часто, решив эту гораздо
более простую проблему, вы можете усовершенствовать полученное решение до того,
что вернетесь к решению всей проблемы в ее первоначальном виде
».

Именно так Шеннон формулировал и решал свои проблемы – сначала на самом
высоком уровне абстракции, затем выбрасывал все несущественное и, наконец, применял
подходящую математику: булеву логику, знакомую ему с дней в Мичигане, – для
магистерской диссертации по переключательным схемам, алгебру – для его докторской
работы по генетике и теорию вероятностей – для работы по теории связи. Сделав это,
Шеннон смог создать научные теории, которые стали базой для соответствующих
областей науки и техники.

Но вернемся в тем двум великим работам, о которых упомянули выше.

Магистерская диссертация 1938 г.

Шеннон начал готовиться к получению магистерской степени в Мичиганском
Техническом Институте в 1936 году в качестве ассистента-исследователя в лаборатории
Вэнивара Буша.

Он недавно закончил Мичиганский университет с двумя бакалаврскими степенями
– по математике и электротехнике. По слухам, Шеннон получил место в лаборатории
после того, как повесил на доске объявлений кампуса свое объявление, написанное на
почтовой открытке.

В то время Буш, его будущий начальник, был вице-президентом МТИ и деканом
инженерного факультета.

В 1927 году Буш совместно с группой ученых создал интерграф, машину для
механического решения систем дифференциальных уравнений первого порядка. На
первой странице газеты «Нью-Йорк Таймс» в том году появился заголовок: «Думающая
машина решает задачи высшей математики и уравнения, на которые у человека уходят
месяцы».

image

Интерграф использовал электрические и механические устройства, а потому имел
недостатки — неточность выполнения и излишнюю сложность. Вдохновленный
математической элегантностью и простотой механического диск-интегратора, Буш решил
построить новую механическую машину. Дифференциальный анализатор, разработанный
в 1931 года, был развитием интеграфа и мог решать дифференциальные уравнения до
шестого порядка. Он состоял из длинных, похожих на столы опорных рамок,
пересеченных соединительными валами. Одна его сторона состояла из множества
чертежных досок, на другой стороне были шесть диск-интеграторов. Валы управляли
пишущими перьями так, что они могли чертить кривые на чертежных досках. Оператор
мог также двигать перо вручную по данной кривой. Это придавало желаемое вращение
некоторым валам. Связывая члены уравнений с вращениями вала, скомбинированными с
работой набора зубчатых передач, можно было использовать машину для выполнения
всех базовых математических операций – в добавление к интегрированию.

Буш поручил новому сотруднику работу по созданию дифференциального
анализатора, который представлял из себя аналоговую вычислительную машину,
собранную из зубчатых передач, приводов и тяг. Она была предназначена для вычислений
и решения дифференциальных уравнений.

Шеннон помог решить проблемы, связанные с анализатором, — неточность расчетов
и сложность использования, — преобразовав механические связи между тягами так, чтобы
их движения соответствовали необходимым математическим уравнениям.
Завершенная машина была поддержана Фондом Рокфеллера. Она весила почти 100
т и была собрана из 2000 вакуумных трубок, нескольких тысяч реле, 150 моторов и
автоматических устройств с перфокартами для выборки данных. Во время Второй
Мировой этот агрегат, вошедший в историю под названием «Рокфеллеровский
дифференциальный анализатор», был, вероятно, самым важным агрегатом при
выполнении расчетных операций армии США.

У Рокфеллеровского дифференциального анализатора была чрезвычайно сложная
схема управления, составленная примерно из ста переключателей, которые могли
автоматически открываться и закрываться с помощью электромагнита. И именно эта
схема и привела вчерашнего студента Шеннона к важному открытию.

Доктор Чарльз Вест вспоминал, как однажды ночью Шеннона осенило, что схемы
дифференциального анализатора очень похожи на булеву логику, которую он изучал,
будучи студентом в Мичигане. Затем Шеннона осенило, что переключатели в схеме
можно совместить таким образом, чтобы схема выполняла необходимые операции
символической логики. Это событие (произошедшее, скорее всего, в конце 1936) было
крупным открытием, которое связало две хорошо известные области, рассматриваемые до
этого момента отдельно.

После этого логические понятия «истина» и «ложь», обозначенные числами 1 и 0,
получили широчайшее применение. В частности, стало возможным представлять с
помощью реле операции двоичной арифметики, или, как сказал сам Шеннон, стало
«возможным представление сложных математических операций с помощью релейных
схем».

От начального рассмотрения проектирования схем, которые могли складывать
двоичные числа, Шеннон перешел к реализации схем, которые уже могли осуществлять
сравнение чисел и выполнять такие действия, как «Если число X равно числу Y, то
выполнять операцию А». Благодаря этому дифференциальный анализатор получил
способность выполнять действия и решения, которые открывали новую эру для
компьютеров и искусственного интеллекта. Так родилась цифровая логика.
Открытие Шеннона вело к новой эре господства цифровой логики и компьютеров.
Стоит заметить, что сама связь между булевой алгеброй и схемами была признана уже
давно и применена в нескольких частях света – впервые аж в 1886 году.

Но почему же было так много «загоревшихся» исследователей, использовавших
идею булевой логики в технических приложениях, но никогда не заходивших достаточно
далеко и часто даже не публиковавших свои результаты?

До Шеннона эта идея «спотыкалась» много раз, хотя сама концепция всегда была
на виду (в отличие от концепции, использованной позднее Шенноном при разработке
теории информации). Теории Шеннона стали известны и распространены по одной
простой причине: пришло подходящее время.

Отчасти это было вызвано появлением технологичных машин. Отчасти оттого, что
общественное и экономическое развитие явилось следствием общемировых тенденций,
требующих чего-то похожего на цифровую логику, перевода машин на уровень новой
эры. В предыдущие полвека, когда другие выдающиеся умы во многих странах приходили
к похожим теориям, не было возможностей реализовать преимущества от открытий –
просто не пришло их время.

Диссертация же Шеннона, появившись в нужное время и в нужном месте, стала
основой для создания теории переключений и логического проектирования, которые были
применены к множеству актуальных проблем, возникающих, например, при
переключениях в железнодорожных системах, передаче информации и исправлении
ошибок, в автоматической телефонии, в вычислительных машинах и т.д.

В 1939 году за свою диссертацию Шеннон получил Нобелевскую премию как
молодой автор технической статьи, обладающей выдающимися достоинствами.
Это была неожиданная для него честь, он написал своему руководителю: «Вы,
вероятно, слышали, что я получил премию Альфреда Нобеля за мою статью по
переключательным схемам. Фактически я подозреваю, что Вы не только слышали, но и
кое-что сделали, чтобы я ее получил. Если это так, то большое спасибо. Я был так удивлен
и счастлив получить письмо с сообщением о награде, что чуть не упал в обморок».
Скорее всего, Буш представил диссертацию Шеннона в Нобелевский комитет, не
посоветовавшись. Ведь за всё это время он успел изучить характер Шеннона: «очень
застенчив, исключительно скромен и представляет тип человека, склонного к уединению
и ожидающего неудач».

Так мы с вами делаем вывод, что у каждого таланта обязательно должен быть
доброжелатель, ведь именно Буш в будущем приложит все усилия для того, чтобы у
Шеннона были все условия для совершения открытий. И Шеннон не подведет.

Статья 1948 г. по теории связи

До 1940 г. не существовало сколь-нибудь унифицированной теории связи.
Шеннон был первым, кто предложил такую теорию. В письме Бушу он впервые
представил универсальную двухступенчатую схему любой системы связи (ступень 1 –
передатчик, ступень 2 – приемник). Из этого можно видеть, что уже тогда – менее чем
через год после защиты его магистерской диссертации «Символический анализ релейных
и переключательных схем» – Шеннон начал работу по структуризации процесса передачи
данных, чтобы найти корень проблемы связи. Таким образом, мы видим, что в 1939 г.
Шеннон был еще далек от завершения теории связи.

Однако уже через 9 лет он опубликовал свою «Математическую теорию связи», где
дал полное и простое описание обобщенной системы связи. Его соединение в единое
целое частей системы связи, его моделирование информации как энтропии и его теория о
предельных возможностях связи в условиях шума и без него были прыжками через
современное ему мышление в технику связи.

В 1948 г., в своей основополагающей работе «Математическая теория связи» он
предложил более полную совокупность частей любой системы связи:

  1. источник информации;
  2. передатчик;
  3. канал связи
  4. приемник;
  5. хранилище принятой информации.

image

В этой же работе Шеннон выделил 3 типа систем связи – дискретные, непрерывные
и смешанные – и установил, что дискретный случай является базой для двух других
случаев и «имеет применения не только в теории связи, но и в теории вычислительных
машин, проектировании телефонных станций и других областях». Если есть на свете
чистый образец базы – разве это не он?

Кроме вышеупомянутых работ, «перу» Шеннона принадлежат исследования в
области криптографии, кибернетики, генетики (!!), а еще он был очень скромным
человеком, прекрасным семьянином и искусным жонглером.

Талантливый человек талантлив во всем, и здОрово, когда талант совпадает с
нуждами времени: если нужен «бит», то обязательно находится тот «счастливчик»,
который его и изобретет.

image

Автор: Александр

Источник

* - обязательные к заполнению поля


https://ajax.googleapis.com/ajax/libs/jquery/3.4.1/jquery.min.js