Здесь и далее ссылки с кадров фильма ведут на видео с соответствующими сценами
Мимолётное видение будущего
Был 1968 год. Мне было 8 лет. «Космическая гонка» была в самом разгаре. Недавно в первый раз космический зонд опустился на поверхность другой планеты (Венеры [это была советская автоматическая межпланетная станция "Венера-3" / прим. перев.]). Я жадно изучал всё, что было связано с космосом.
Затем 3 апреля 1968 года (в Британии – 15 мая) вышел фильм "Космическая одиссея 2001 года", и мне очень хотелось его увидеть. Поэтому в начале лета 1968 я впервые в жизни попал в кинотеатр. Меня привезли посмотреть дневной показ, и я был практически единственным зрителем в зале. По сей день я помню, как сидел на плюшевом кресле и с нетерпением ожидал, когда поднимут занавес и начнётся кино.
Фильм начался с впечатляющего инопланетного восхода. Но что происходило потом? Это были не сцены космоса. Это были ландшафты с животными. Я растерялся, и мне было немного скучно. Но когда я уже начал волноваться, в воздух полетела кость, превратившаяся в космический корабль, и вскоре послышался вальс – и на экране появилась величественно вращающаяся большая космическая станция.
Следующие два часа произвели на меня огромное впечатление. Дело было не в космической корабле (к тому времени я видел уже много таких в книгах, и даже рисовал свои собственные варианты). И в то время меня не особенно интересовали инопланетяне. Новым и увлекательным в фильме для меня стала атмосфера мира, полного технологий – и идеи о том, что может стать возможным, со всеми этими яркими экранами, занятыми своими задачами, и управляющими всем компьютерами.
Пройдёт ещё целый год перед тем, как я впервые увижу настоящий компьютер. Но те два часа 1968 года, прошедшие за наблюдением «2001», определили видение того, каким может быть вычислительное будущее, которое я носил в себе много лет.
Думаю, что в антракте показа фильма продавец напитков – возможно, тронутый зрелищем единственного ребёнка, так внимательно следящего за фильмом – дал мне «кинопрограммку», описывающую фильм. Спустя пятьдесят лет, эта программка всё ещё у меня – с пятном от еды и с выцветшими записями меня восьмилетнего, написавшего (с ошибками), где и когда я видел это кино:
Что произошло в действительности
За прошедшие 50 лет случилось много всего, особенно в мире технологий, и мне очень интересно смотреть «2001» снова – и сравнивать его предсказания с реальным развитием событий. Конечно, кое-что из того, что было создано за последние 50 лет, было сделано такими людьми, как я, на которых в большей или меньшей степени повлиял «2001».
Когда в 2009 году был запущен Wolfram|Alpha – демонстрирующий некоторые особенности, схожие с HAL – мы сделали небольшую отсылку к «2001» в нашем сообщении об ошибке (нужно ли говорить, что одним из запомнившихся отзывов в начале работы стал вопрос: «Откуда вы знаете, что меня зовут Дэйв?»):
Одним из очевидных и не сбывшихся пока что предсказаний «2001» были повседневные космические путешествия в комфортабельной обстановке. Но, как и со многими другими предсказаниями фильма, нет ощущения, что этот прогноз был сделан неверно – просто спустя 50 лет мы ещё до этого не добрались.
Что насчёт компьютеров в фильме? У них множество плоских экранов, как у настоящих сегодняшних. Хотя одним из очевидных отличий фильма будет наличие отдельного физического дисплея для каждой функциональной области – идея окон, динамически изменяющихся областей экрана, тогда ещё не возникла.
Ещё одно отличие состоит в управлении компьютерами. Да, с HAL можно разговаривать. Но остальные варианты – множество механических кнопок. Честно говоря, в кабинах пилотов и сегодня есть множество кнопок – но сегодня главным элементом служит дисплей. И, да, в кино не было сенсорных экранов или мышек. (Оба эти устройства на самом деле были придуманы за несколько лет до фильма, но ни одно из них не было широко известно).
Ещё там не видно клавиатур (и в высокотехнологичном космическом корабле, полном компьютеров, отправляющемся к Юпитеру, астронавты пишут ручками на бумажных планшетах; однако, пророческим оказалось то, что на экране не видно логарифмических линеек и плёнок – хотя в одном кадре мелькает распечатка, ужасно похожая на перфокарту). Конечно, в 1960-х у компьютеров были клавиатуры. Но в то время очень мало людей умело печатать, и не было причин подозревать, что эта ситуация поменяется. (Лично я люблю пользоваться инструментами, и даже в 1968-м регулярно использовал печатную машинку, хотя и не знал ни одного другого ребёнка, кто бы поступал так же. Мои руки в то время были недостаточно большими и сильными для того, чтобы печатать как-то по-другому, нежели нажимая на клавиши одним пальцем. Полезность этого опыта пригодилась несколько десятилетий спустя, с пришествием смартфонов.)
Что насчёт содержимого экранов? Это, возможно, была моя любимая часть всего фильма. Они были такими графическими, и передавали так много информации с такой скоростью. Я видел множество диаграмм в книгах, и даже с пристрастием рисовал много своих. Но в 1968-м было удивительно воображать, что компьютер может генерировать информацию и так быстро представлять её графически.
Конечно, тогда было телевидение (хотя цветное в Британии появилось 1968, и тогда я видел только чёрно-белое). Но телевизор не генерировал изображения; он просто показывал то, что видит камера. Были и осциллографы, но они демонстрировали только одну точку, двигающуюся по линии на экране. Поэтому компьютерные экраны в «2001», по крайней мере, для меня, были чем-то совершенно новым.
В то время не казалось странным, что в фильме было так много распечатанных инструкций (как использовать графический телефон, или туалет для невесомости, или модули гибернации). Сегодня подобные инструкции были бы показаны на экране. Но когда снимали «2001», до идеи текстовых процессоров и демонстрации текста для чтения с экрана оставалось ещё несколько лет – возможно, не в последней степени потому, что в то время люди считали компьютеры машинами, предназначенными для вычислений, а с текстом вроде бы нечего было вычислять.
В «2001» на экранах показано много всего. И хотя там не используется идея динамических передвижных окон, отдельные экраны, когда они не показывают ничего, переключаются в режим «иконок», показывая крупными буквами коды вроде NAV или ATM или FLX или VEH или GDE.
Когда дисплеи активны, они иногда показывают что-то вроде таблиц или чисел, а иногда – немного анимированные версии всяческих диаграмм наподобие тех, что можно встретить в учебниках. Некоторые из них демонстрируют трёхмерную скелетную графику уровня 1980-х («каково положение космического корабля?» и т.п.) – возможно, разработанную под влиянием аналоговых систем управления самолётами.
Но часто там видно что-то ещё, и иногда это занимает весь экран. Там показывают что-то вроде кода или смесь кода и математики.
Обычно это достаточно «современно выглядящий» шрифт без засечек (на самом деле это шрифт Manifold от электрических печатных машинок IBM Selectric). Всё написано прописными буквами. Звёздочки, скобки и имена вроде TRAJ04 напоминают ранний код на Fortran (разве что, обилие точек с запятой больше напоминает язык PL/I от IBM). Также присутствуют верхние индексы и десятичные части.
Сейчас изучение этих картинок подобно попыткам разгадать язык пришельцев. Что подразумевали под этим создатели фильма? Некоторые фрагменты кажутся мне осмысленными. Но многие выглядят случайными и бессмысленными – формулы, не имеющие смысла, полные бесполезных чисел, записанных с высокой точностью. Учитывая тщательность создания «2001», этот момент кажется одним из немногих недочётов – хотя, возможно, «2001» начал долгую и неудачную традицию демонстрации бессмысленного кода в фильмах. (Недавним контрпримером может служить код для анализа языка пришельцев в фильме «Arrival», написанный моим сыном Кристофером, который на самом деле представляет собой код для Wolfram Language, реально выполняющий показанную там визуализацию).
Но есть ли смысл показывать какой-то код на реальных экранах, таких, которые мы видим в «2001»? Ведь астронавты не должны заниматься созданием космического корабля; они им только управляют. Большую часть истории вычислительных систем код был тем, что люди пишут, а компьютеры читают. Но одной из моих целей создания Wolfram Language было сделать истинно вычислительный язык для общения, достаточно высокоуровневый для того, чтобы его могли читать не только компьютеры, но и люди.
Однако некоторые выполняемые космическим кораблём процедуры можно описать словами. Но одна из целей Wolfram Language – возможность представить процедуру в форме, совпадающей с вычислительными размышлениями человека. Так что, да, на первом настоящем управляемом космическом аппарате, отправляющемся к Юпитеру, будет иметь смысл демонстрировать код, хотя выглядеть это будет не совсем так, как в «2001».
Случайности истории
За эти годы я смотрел «2001» несколько раз, хотя в 2001-м году я этого не делал (тот год был посвящён окончанию моего главного произведения, «Наука нового типа»). Но в фильме «2001» есть несколько весьма очевидных моментов, не совпадающих с реальным годом 2001 – и это далеко не только иное состояние космических путешествий.
Один из наиболее очевидных моментов – причёски, одежда, установленные нормы выглядят не так. Конечно, это было бы очень трудно предсказать. Но, вероятно, можно было бы предположить (учитывая движение хиппи и т.п.), что стили одежды и прочее станут менее формальными. Однако в 1968-м я отчётливо помню, к примеру, что одеваться соответствующим образом нужно было даже для полёта на самолёте.
Ещё одно, что сегодня выглядит неправильно – ни у кого в кино нет персональных компьютеров. Конечно, в 1968-м во всём мире существовало лишь несколько сотен компьютеров, и каждый из них весил значительную долю тонны, и никто не мог себе представить, что у людей появятся личные компьютеры, которые они смогут носить с собой [В романе Кларка, вышедшем после фильма, карманные компьютеры имеются / прим. перев.].
Так получилось, что в 1968-м у меня был недавно полученный в подарок небольшой механический компьютер из пластика (Digi-Comp I) который я мог (с большим трудом) заставить выполнять двоичные операции на трёх позициях. Но, думаю, можно с уверенностью заявить, что у меня не было никакого представления о том, как это может масштабироваться до компьютеров 2001 года. И когда я увидел «2001», я представлял, что для доступа к технологиям, подобным тем, что показывали в кино, когда я вырасту, мне будет необходимо устроиться в компанию вроде НАСА.
Чего я, конечно, не мог предвидеть – и не уверен, что кто-то мог – что потребительская электроника станет такой маленькой и дешёвой. И что доступ к компьютерам и вычислениям станет таким распространённым.
В фильме есть сцена, в которой астронавты пытаются найти ошибку в электронном компоненте. Показано множество красивых экранов в инженерном стиле. Но все они основаны на печатных платах с отдельными компонентами. Там нет интегральных схем и микропроцессоров – что неудивительно, поскольку в 1968-м их ещё не изобрели. (Там совершенно корректно не используются электронные лампы. В качестве оборудования в фильме был показан гироскоп).
Интересно видеть всяческие мелкие особенности технологий, не предсказанные фильмом. Например, когда там делают памятные фотографии перед монолитом на Луне, фотограф постоянно нажимает на камеру после каждого снимка – вероятно, чтобы прокрутить плёнку внутри. Идея цифровых камер, способных делать снимки электронным методом, тогда не появилась.
В истории технологии некоторые события кажутся неизбежными – хотя иногда на их появление ушли десятилетия. Пример – видеотелефоны. Ранние их версии появились ещё в 1930-х. В 1970-х и 80-х были предприняты попытки их коммерциализации. Но даже в 1990-х они оставались экзотикой – хотя я помню, что потратив некоторые усилия, мне удалось взять пару таких в аренду в 1993-м, и они работали даже на обычных телефонных линиях.
На космической станции в «2001» показан Picturephone, даже с логотипом AT&T – хотя это старый логотип Bell System, который реально выглядит, как колокольчик [bell англ. – колокол / прим. перев.]. Так получилось, что когда фильм «2001» снимали, в AT&T в разработке реально был проект под названием Picturephone.
Конечно, в «2001» Picturephone – это не сотовый телефон и не мобильное устройство. Это встроенный в стойку объект, платный Picturephone. В реальной истории подъём сотовых телефонов произошёл до коммерциализации видеочатов – поэтому технологии платных телефонов и видеочата не пересекались.
Также в фильме интересно то, что Picturephone управляется при помощи нажимаемых кнопок, с раскладкой точно такой же, как и сегодня (хотя и без * и #). Телефоны с кнопками реально существовали в 1968, хотя и не были широко распространены. И, конечно, из-за особенностей нашей технологии, сегодня я не думаю, чтобы кому-то приходилось нажимать на механические кнопки при реальном использовании видеочата.
Для Picturephone распечатан большой список инструкций – но на самом деле, как и сегодня, работа с ним кажется вполне простой. В 1968-м даже прямые звонки на дальние расстояния (без оператора) были новинкой – и не были возможны для всех стран мира.
Для использования Picturephone в «2001» необходимо вставлять в него кредитку. Кредитки уже в 1968 существовали довольно долгое время, хотя и не были сильно распространены. Идея автоматического чтения кредитки (например, при использовании магнитной полосы) была разработана в 1960-м, хотя и не распространялась вплоть до 1980-х. (Я помню, что в середине 1970-х в Британии, когда я получил свою первую карту для банкомата, это был просто кусок пластика с отверстиями наподобие перфокарты – не самый безопасный вариант из возможных).
В конце звонка по Picturephone в фильме показывают стоимость: $1.70. С поправкой на инфляцию сегодня это будет примерно $12. По стандартам современных мобильных телефонов, или видеочатам по интернету, это очень дорого. Но для современного спутникового телефона это не так уж далеко от истины, даже для аудиозвонка. (Сегодняшние портативные спутниковые телефоны не поддерживают скорость обмена данными, необходимыми для видеозвонков, и сети на самолётах с трудом справляются с видеозвонками).
На космическом шаттле (или даже космическом самолёте) кабина выглядит очень похожей на современный самолёт – что неудивительно, поскольку даже Boeing 737 уже существовал в 1968. Но правильной чертой современности можно считать то, что на спинках сидений есть телевизоры – управляемые, разумеется, рядами кнопок (а по ним показывают футуристичные для 1960-х передачи, вроде телетрансляции матча по женскому дзюдо).
Интересный факт, связанный с «2001», состоит в том, что почти в каждой большой сцене фильма (кроме тех, что связаны с HAL), показывают потребление еды. Но как будут доставлять еду в 2001 году? Предполагалось, что, как и всё остальное, это будет автоматизировано, в результате чего в фильме показан большой набор сложных диспенсеров для еды. Оказывается, что на сегодня доставка еды очень плотно использует людской труд.
В части фильма, касающейся путешествия на Юпитер, используются «гибернационные капсулы» – внутри которых находятся люди в спячке. Над капсулами имеются экраны с информацией по параметрам организма, очень похожие на современные медицинские мониторы. В каком-то смысле, это было не такое уж сложное предсказание, поскольку даже в 1968-м уже существовали ЭЭГ дисплеи, похожие на осциллографы.
Конечно, в реальной жизни пока никто не разобрался, как погружать людей в спячку. То, что это, а также заморозка, возможно, предсказывают уже порядка сотни лет. Я считаю, что это – как клонирование и редактирование генов – придёт вместе с изобретением каких-то хитроумных трюков.
В «2001», когда один из персонажей прибывает на космическую станцию, он проходит иммиграционный контроль (названный «документацией») – возможно, это представляли чем-то вроде расширения "Договора о космосе" от 1967-го. Стоит отметить, что в кино процесс допуска проходит автоматически и использует биометрику, а точнее, идентификацию по голосу. Эмблема США идентична сегодняшней, используемой в паспортах, но, типично для времени до 1980-х, система спрашивает имя и фамилию, как “surname” и “Christian name” [вместо, видимо, «first name» и «last name» / прим. перев.].
Даже в 1950-х уже существовали примитивные системы распознавания голоса («что это за цифра?») и идея об идентификации говорящего по голосу была известной. Но что было совершенно неочевидным, так это то, что серьёзным голосовым системам потребуется вычислительная мощность, которая появится только к концу 2000-х.
И только в последние несколько лет автоматические биометрические системы контроля иммиграции начали появляться в аэропортах – хотя они работают с лицом и иногда с отпечатками пальцев, а не с голосом (да, наверное, система, при которой множество людей одновременно говорят, стоя у разных кабинок, не сработала бы).
В кино, у стойки есть кнопки для разных языков: английский, голландский, русский, французский, итальянский, японский. Было бы очень сложно предсказать более подходящий список для 2001 года.
И хотя 1968-й находился в самой середине Холодной войны, фильм правильно изображает международное использование космической станции – хотя, как в сегодняшней Антарктике, там показаны разные лунные базы разных стран. Конечно, в кино присутствует Советский Союз. Но то, что Берлинская стена падёт через 21 год после 1968-го, не кажется таким фактом, какой когда-либо в человеческой истории можно было бы предсказать.
В кино видны логотипы множества компаний. Космический шаттл носит гордый бренд Pan Am. По меньшей мере в одной сцене, на его инструментальной панели видно надпись "IBM". (Ещё одно лого IBM видно при работе в открытом космосе близ Юпитера). На космической станции показано два отеля: «Хилтон» и "Говард Джонсон". Ещё используется диспенсер замороженных обедов от Whirlpool (на кухне корабля, следующего на Луну). Есть Picturephone от AT&T (Bell System), сумка «Аэрофлот» и новости от BBC (канал называется «BBC 12», хотя в реальности расширение за последние 50 лет прошло только от BBC 2 до BBC 4).
За последние 50 лет, очевидно, многие компании появились и исчезли, но интересно наблюдать, как многие из тех, что упомянуты в фильме, существуют до сих пор, хотя бы в каком-то виде. Многие логотипы даже почти не изменились – за исключением AT&T и BBC, а также лого IBM, к которому добавили полосочки в 1972-м.
Также интересно рассматривать используемые в фильме шрифты. Некоторые кажутся нам сегодня устаревшими, а другие (как заглавный) выглядят абсолютно современными. Странно, что иногда за последние 50 лет некоторые из этих «современных» шрифтов казались старыми. Но такова, я полагаю, природа моды. Стоит помнить, что даже «шрифты с засечками» с каменных надписей древнего Рима вполне способны выглядеть современно.
Ещё одно изменение с 1968-го произошло в манере людей разговаривать и в наборе слов. Изменения особенно заметны в технических разговорах. «We are running cross-checking routines to determine reliability of this conclusion» [мы выполняем перекрёстные процедуры для определения надёжности данного заключения] звучит нормально для 1960-х, но не для сегодняшнего дня. Упоминаются риски «социальной дезориентации» без «адекватной подготовки и формирования рефлексов», выдающие бихевиористский подход к психологии, который сегодня, по меньшей мере, не описывался бы таким образом.
Довольно мило слушать, как персонаж говорит, что когда они «звонят» на лунную базу, то в ответ слышат «запись, повторяющую, что телефонные линии временно не работают». Сегодня мы говорим что-то довольно похожее о стационарных телефонных линиях на Земле, но кажется, что касательно лунной базы стоит говорить о какой-то автоматической системе, самостоятельно выясняющей, что их сеть не работает, вместо того, чтобы живой человек звонил по телефону и слушал записанное сообщение.
Конечно, если бы персонаж фильма говорил, что «не может пропинговать их серверы» или «видит 100% пропажу пакетов», для зрителей 1960-х это было бы совершенно непонятно – подобные концепции цифрового мира тогда ещё не были изобретены (хотя их элементы определённо существовали).
Что насчёт HAL?
Самым заметным и запоминающимся персонажем «2001» определённо является компьютер HAL 9000, описанный (точно так, как его могли бы описать сегодня), как «последняя новинка машинного интеллекта». HAL разговаривает, читает по губам, играет в шахматы, распознаёт лица по рисункам, комментирует произведения искусства, строит психологические портреты, читает показания датчиков и камер по всему кораблю, предсказывает отказ электроники, и – что важно для сюжета – демонстрирует человекоподобные эмоциональные реакции.
Может показаться удивительным, что все эти возможности, похожие на работу ИИ, были предсказаны в 1960-х. Но на самом деле тогда никто не думал, что ИИ будет сложно создать – бытовало мнение, что совсем скоро компьютеры смогут делать практически всё, что могут люди, хотя, вероятно, лучше, быстрее и масштабнее.
Но уже е 1970-м стало ясно, что всё будет не так просто, и вскоре вся область ИИ приобрела дурную репутацию – и идея создания чего-то вроде HAL всё больше казалась настолько же фантастичной, как надежда откопать инопланетные артефакты на Луне.
В кино днём рождения HAL считается 12 января 1992 (хотя в книжной версии истории это случилось в 1997-м). В 1997-м году в г. Урбана, шт. Иллинойс, выдуманном месте рождения HAL (и, так получилось, городе, где находится штаб-квартира моей компании), я посетил празднование выдуманного дня рождения HAL. Люди беседовали по поводу всяческих технологий, имеющих к нему отношение. Но для меня наиболее удивительным было понижение уровня ожиданий. Практически никто не хотел упоминать «ИИ общего назначения» (вероятно, чтобы его не заподозрили в сумасшествии), и вместо этого люди сконцентрировались на очень узких проблемах, со специализированными программами и ПО.
В 1960-х я читал множество материалов по научно-популярной теме (и немного научной фантастики), и моим первым предположением было то, что ИИ класса HAL когда-то обязательно появится. Я даже помню, что в 1972-м, когда мне пришлось говорить речь перед всей школой, я выбрал тему, связанную с этикой ИИ. Боюсь, что моя тогдашняя речь сегодня покажется наивной и неправильной (вероятно, частично из-за влияния «2001»). Но мне было-то всего 12. Сегодня мне кажется интересным, что даже тогда тема ИИ казалась мне важной.
Остаток 1970-х лично я в основном концентрировался на физике (она, в отличие от ИИ, в то время процветала). ИИ всё равно не выходил у меня из головы, когда я, к примеру, хотел понять, связан или не связан со статистической физикой или формированием сложных структур. Важность ИИ для меня восстановилась в 1981, когда я запустил свой первый язык программирования SMP и увидел, насколько успешно он справляется с математическими и научными вычислениями. Мне стало интересно, что нужно сделать, чтобы можно было выполнять вычисления всего (и знать обо всём).
Сразу же я предположил, что для этого компьютеру потребуются возможности, сравнимые с , а значит, ИИ общего назначения. Но поскольку я недавно наблюдал за огромными достижениями физики, этот вывод меня не особенно побеспокоил. У меня даже был довольно чёткий план. SMP – как Wolfram Language сегодня – был основан на идее определения преобразований, которые необходимо применять, когда выражения попадают под определённый шаблон. Я всегда относился к этому, как к грубой идеализации определённых форм человеческого . Я считал, что для ИИ общего назначения потребуется просто способ искать соответствия не точным шаблонам, а примерным (к примеру, «на этой картинке изображён слон, хотя её пиксели не полностью совпадают с примером»).
Для этого я опробовал различные схемы, одной из которых были нейросети. Но у меня никак не получалось сформулировать эксперименты, которые были бы достаточно простые хотя бы для того, чтобы можно было определить чёткое понятие успеха. Внося в нейросети и парочку других систем упрощения, в итоге я пришёл к клеточным автоматам – что быстро позволило мне сделать несколько открытий, отправивших меня в долгое путешествие исследования вычислительной вселенной простых программ, и я отложил в сторону приблизительные шаблоны и проблему ИИ.
Ко времени вымышленного дня рождения HAL в 1997 я находился на пике интенсивного 10-летнего процесса изучения вычислительной вселенной и написания "Науки нового типа" – и лишь из огромного уважения к «2001» я согласился сделать перерыв на день в отшельничестве и поговорить о HAL.
И так случилось, что всего за три недели до этого появились новости об успешном клонировании овечки Долли.
И, как я упоминал, кроме ИИ общего назначения, люди годами обсуждали клонирование млекопитающих. Но это считалось невозможным, и над этим почти никто не работал – до успеха с Долли. Я не был уверен, какого рода открытие или идея приведут к прогрессу в области ИИ. Но я был уверен, что он произойдёт.
Тем временем, для моего изучения вычислительной вселенной я сформулировал "принцип вычислительной эквивалентности", который содержал важные моменты, касающиеся ИИ. На каком-то уровне он утверждает, что не существует волшебной линии, отделяющей интеллект и простые вычисления.
Подбодрённый этим фактом, и вооружившись Wolfram Language, я начал размышлять по поводу моей цели решения проблемы вычислительного знания. Это было не простое дело. Но после многих лет работы, в 2009 я получил Wolfram|Alpha – систему общих вычислительных знаний, многое знающую о мире. А особенно после того, когда она была интегрирована в системы с голосовым вводом и голосовой выводом вроде Siri, она уже во многом начала напоминать HAL.
Но у HAL в кино возможностей было больше. Естественно, у него были специальные знания по поводу управляемого им космического корабля – примерно как у промышленных версий Enterprise Wolfram|Alpha, работающих во многих крупных корпорациях. Но у него были и другие возможности – например, визуализация задач распознавания.
С развитием информатики подобные вещи превратились в задачи, на которые «компьютеры просто неспособны». Честно говоря, был достигнут неплохой практический прогресс в таких вещах, как распознавание текстов и лиц. Но не чувствовалось никакого обобщения в этой области. А затем в 2012-м внезапно обнаружилась тренированная нейросеть, очень хорошо показавшая себя в распознавании стандартных изображений.
Это была странная ситуация. Нейросети обсуждались ещё с 1940-х, и энтузиазм по их поводу десятилетиями периодически возникал и опадал. Но внезапно, лишь несколько лет назад они начали работать. И множество «HAL-подобных» задач, ранее казавшихся недостижимыми, внезапно стали доступными.
В «2001» упоминается идея о том, что HAL не «запрограммирован», а каким-то образом «обучен». HAL даже один раз упоминает, что у него был учитель (человек). Возможно, разрыв между созданием HAL в 1992-м и вводом его в строй в 2001-м должен был обозначать человекоподобный период обучения машины. В книге Артур Кларк, вероятно, поменял год рождения на 1997, потому что решил, что 9-летних компьютеров не будет.
Но самое важное, что дало старт современным системам машинного обучения – они тренируются не с человеческой скоростью. Им сразу скармливают миллионы и миллиарды примеров, а затем они должны жечь процессорное время, периодически делая находки, всё лучше и лучше соответствующие примерам. Можно представить себе, что машина с «активным обучением» могла бы находить нужные примеры в среде, напоминающей классную комнату, но наиболее важные успехи в современном машинном обучении были достигнуты по-другому.
Так могут ли машины сейчас делать то, что делает HAL в кино? Для управления космическим кораблём, вероятно, необходимо выполнять множество задач, но большинство задач HAL, показанных в кино, по сути, кажутся человеческими. И большая их часть оказывается хорошо приспособленной к современному машинному обучению – и с каждым месяцем всё большее их число оказывается успешно реализованным.
Но что насчёт скрепления всех этих задач вместе с целью создания «полноценного HAL?»
Можно представить себе гигантскую нейросеть, которую можно «натренировать разным аспектам жизни». Но это не кажется подходящим способом. Ведь если мы занимаемся небесной механикой при подсчёте траектории космического корабля, нам не надо пытаться реализовать её через поиск подходящих примеров; мы можем сделать это, проведя реальные вычисления и используя достижения математики.
Нам нужно, чтобы наш HAL знал много о множестве вещей, и мог подсчитать множество всего, включая и человекоподобную понимание и суждение.
В книжной версии «2001» имя HAL соответствовало «эвристически запрограммированному алгоритмическому компьютеру». Артур Кларк объяснил его работу так: «он может работать по уже готовой программе, или поискать решения получше, в результате чего вы получаете наилучший вариант из возможных».
И в каком-то смысле, это довольно неплохое описание того, что я сделал за 30 лет из языка Wolfram Language. «Уже готовые программы» пытаются объять все систематические знания о вычислениях и о мире, накопленные нашей цивилизацией.
Но есть ещё концепция поиска новых программ. И наука, которой я занимался, привела к тому, что я провёл много времени в поисках программ в вычислительной вселенной всех возможных программ. Мы много раз успешно находили полезные программы таким способом, хотя этот процесс оказывается не таким систематическим, как хотелось бы.
В последние годы Wolfram Language включил в себя и современное машинное обучение – в котором также происходит поиск программ, хотя и в ограниченной области, определённой, к примеру, весами в нейросети, и построенной так, что в ней возможно постепенное улучшение результатов.
Можем ли мы создать HAL сегодня при помощи Wolfram Language? Я думаю, что мы можем приблизиться к этому. Кажется, вполне возможным разговаривать с HAL на естественном языке по поводу разных связанных вещей, и заставлять его использовать вычисления на основе знаний для контроля и разбора всего, связанного с космическим кораблём (включая, к примеру, симуляцию его компонентов).
Менее проработан вариант «компьютера в качестве собеседника», и не в последнюю очередь потому, что непонятно, в чём заключается цель такой работы. Но я надеюсь, что в последующие несколько лет – в частности, для поддержки таких приложений, как умные вычислительные контракты (да, было бы неплохо настроить один из контрактов для HAL) – для таких вещей появится платформа общего назначения.
Не способен на ошибки
Делают ли компьютеры ошибки? Когда в 1940-х и 50-х были созданы первые электронные компьютеры, большой проблемой была надёжность используемого оборудования. Выполняют ли электронные сигналы те задачи, которые на них возлагают, не прерываются ли они, допустим, из-за того, что мотылёк (баг) залетел в компьютер?
К тому времени, как в 1960-х были разработаны мэйнфреймы, подобные проблемы с оборудованием уже были взяты под контроль. И в каком-то смысле можно было сказать (а маркетинг так и делал), что компьютеры были «абсолютно надёжными».
HAL вспоминает это в «2001». «Серия 9000 – самый надёжный из существующих компьютеров. Ни один компьютер серии 9000 не делал ошибок и не искажал информацию. Мы все, во всех практических смыслах, надёжны и не способны на ошибку».
С современной точки зрения подобные заявления абсурдны. Все знают, что в компьютерных системах – точнее, программных системах – неизбежно присутствуют баги. Но в 1968 в багах не разбирались.
Ведь компьютеры должны были быть идеальными логическими машинами. Поэтому, рассуждали тогда, они должны идеально работать. А если что-то пойдёт не так, то это, как говорил HAL, «относится на счёт ошибок человека». Или, иначе говоря, если люди будут достаточно умными и осторожными, компьютеры всегда будут «всё делать правильно».
Когда Алан Тьюринг писал свою теоретическую работу в 1936, чтобы показать возможность существования универсальных компьютеров, он практически написал программу для предполагаемой универсальной машины Тьюринга. И даже в этой самой первой программе (всего на одну страницу) оказались ошибки.
Но можно сказать – хорошо, если достаточно постараться, наверняка можно избавиться от всех ошибок. Тут есть проблема: для этого придётся предугадать все варианты того, что программа способна сделать. Но в каком-то смысле, если вы способны это сделать, вам эта программа и не нужна.
И в принципе любая программа, занимающаяся чем-то нетривиальным, скорее всего продемонстрирует вам то, что я называю вычислительной несводимостью – то есть, не существует систематических обходных путей для того, чтобы понять, что она делает. Чтобы выяснить, что она делает, у вас нет другого выхода, кроме как запустить её и посмотреть. Иногда это даже желаемое условие – к примеру, если вы создаёте криптовалюту, для добычи которой требуются не сводимые к более простым вычисления.
И если в вычислении несводимости нет, это признак того, что вычисление не такое уж эффективное, каким оно могло бы быть.
А что есть баг? Его можно определить, как программу, делающую что-то, что никому не нужно. Допустим, мы хотим, чтобы узор на картинке слева, создаваемый очень простой программой, никогда не кончался. Но суть в том, что может не оказаться способа ответить на вопрос, заканчивается ли он, кроме как подождать бесконечно долгое время. Иначе говоря, выяснить, есть ли в программе бага, и делает ли она что-то, что никому не нужно, может оказаться бесконечно сложно.
И мы, конечно, знаем, что баги – проблема не только теоретическая; они существуют во всех крупномасштабных практических программах. И если только HAL не будет делать настолько простые вещи, что мы сможем предвидеть все их возможные аспекты, практически неизбежно у HAL будут баги.
Но, возможно, для HAL можно дать некие общие указания – «хорошо обращаться с людьми», или другие потенциальные принципы этики ИИ. Но вот, в чём проблема: у каждой чёткой спецификации неизбежно будут непреднамеренные последствия. Можно сказать, что «в спецификации будут баги», но проблема в том, что они неизбежны. При наличии вычислительной несводимости не существует конечной спецификации, способной избежать любых мыслимых «непреднамеренных последствий».
Или, в терминах «2001», HAL неизбежно будет способен демонстрировать неожиданное поведение. Это просто последствия наличия системы, способной на сложные вычисления. Это помогает HAL «проявить творческое начало» и «взять инициативу». Но это также означает, что поведение HAL не получится предсказать полностью.
Подтверждающие это теоретические основы были известны ещё в 1950-х, или даже ранее. Но потребовался опыт использования реальных сложных компьютерных систем в 1970-х и 80-х, чтобы выработать интуицию по поводу багов. И в 80-х и 90-х потребовались мои исследования вычислительной вселенной, чтобы стало понятно, насколько повсеместно явление вычислительной несводимости, и насколько она влияет на любую широкую спецификацию.
Как они догадались?
Интересно изучать, где создатели «2001» ошиблись по поводу будущего, но впечатляет и то, как много они сделали правильно. Как у них это получилось? Стэнли Кубрик, Артур Кларк (и их научный консультант Фред Ордвей III) воспользовались помощью довольно большой группы топовых технологических компаний того времени – и (хотя в титрах ничего об этом не сказано) получили удивительно большой объём подробной информации об их планах и желаниях, а также некоторые специально сделанные для фильма теоретические разработки в роли продакт-плейсмента.
В самой первой космической сцене, к примеру, можно видеть множество разных космических кораблей, которые основаны на концепциях таких компаний, как Boeing, Grumman, General Dynamics, а также НАСА. В фильме логотипов производителей нет, и НАСА не упоминается; вместо этого разные корабли обозначены флагами разных стран.
Откуда же взялась идея умного компьютера? Не думаю, что у неё был внешний источник. Думаю, в то время эта идея «носилась в воздухе». Мой друг Марвин Минский, в 60-х бывший одним из пионеров ИИ, был на съёмочной площадке «2001» во время съёмок. Но Кубрик, видимо, не задавал ему вопросов по поводу ИИ; вместо этого он интересовался компьютерной графикой, естественностью компьютерного голоса и робототехникой. Марвин утверждает, что предложил конфигурацию манипуляторов, использовавшихся для капсул на космическом корабле, шедшем к Юпитеру.
А что насчёт деталей HAL? Оттуда они взялись? Оказывается, из IBM.
IBM в то время была крупнейшей компьютерной компанией, и, что удобно, её штаб-квартира была расположена в Нью-Йорке, где работали Кубрик и Кларк. IBM, как и сейчас, работала над передовыми концепциями, которые можно было бы продемонстрировать. Они работали над распознаванием голоса. Они работали над распознаванием изображений. Они работали над компьютерными шахматами. В принципе, они работали практически над всеми возможностями HAL, продемонстрированными в «2001». Многие из них даже показаны в фильме «Информационная машина», который был снят для всемирной выставки 1964 года в Нью-Йорке (интересно, что в фильме показана динамическая многооконная презентация, которую не взяли для HAL).
В 1964 IBM гордо представила компьютеры для мэйнфрейма System/360. И вся реторика, связанная с HAL и его безошибочной работой, могла быть взята из рекламных материалов для 360. И, естественно, HAL был крупным физически – как компьютер для мэйнфрейма (достаточно большим, чтобы внутрь компьютера мог зайти человек). Но у HAL была одна особенность, не свойственная IBM. Тогда IBM тщательно избегала заявлять, что компьютеры могут быть умными; они лишь подчёркивали, что компьютеры будут делать то, что скажут им люди.
Иронично, что внутренний слоган IBM для сотрудников звучал, как «Думайте». Только в 1980-х IBM начала говорить об умных компьютерах – и, к примеру, когда в 1980-м мой друг Грег Чайтин давал консультацию главе исследовательского отдела IBM, ему рассказали, что политикой компании является отсутствие исследований в области ИИ, поскольку IBM не хотела, чтобы клиенты боялись, что ИИ их заменит.
Недавно всплыло интересное письмо от 1966 года. В нём Кубрик спрашивает одного из продюсеров (Роджера Караса, позднее прославившегося на ТВ): «Знает ли I.B.M., что одной из главных тем истории является компьютер-псих?» Кубрик беспокоится, что компания решит, будто её надули. Продюсер отвечает, что IBM – «технический консультант по компьютерам», и говорит, что IBM не будет возражать, пока её «не ассоциируют со сбоем оборудования».
Но должен ли был HAL быть компьютером IBM? Логотип в фильме пару раз появляется, но его нет на HAL. Вместо логотипа на компьютере имеется табличка с именем:
Интересно, что синий цвет – характерный для IBM. Также забавно, что если вместо каждой буквы HAL взять следующую по алфавиту, то получится IBM. Артур Кларк всегда заявлял, что это совпадение, и, возможно, так оно и есть. Но я думаю, что в какой-то момент буквы на синей табличке должна были гласить «IBM».
Как и некоторые другие компании, IBM очень любила маркировать свою продукцию цифрами. Интересно посмотреть на то, какие они использовали цифры. В 1960-х было множество 3-х и 4-хзначных чисел, начинающихся с 3 и 7, включая серию 7000, и так далее. Интересно, что не было ни одной серии, начинающейся с 9 – IBM 9000 не существовало. Вплоть до 1990-х у IBM не было ни единого продукта с именем, начинающимся с 9. Подозреваю, что из-за HAL.
Кстати, посредником между IBM и съёмочной группой был глава маркетинга С. С. Холлистер, которого в 1964 в интервью New York Times спросили, почему IBM – в отличие от конкурентов – занимается широкой рекламой, хотя весьма малая доля директоров корпораций принимает решения о покупке компьютеров. Он ответил, что их реклама была «разработана так, чтобы повлиять на идейных вдохновителей [articulators], на 8-10 млн людей, влияющих на мнения на всех уровнях жизни страны» (сейчас их назвали бы «лидерами общественного мнения» [opinion makers]).
И добавил: «Важно, чтобы важные люди понимали, что такое компьютер, и что он может делать». В некотором смысле, именно это и делал HAL, хотя не так, как мог этого ожидать Холлистер.
Предсказывая будущее
Ладно, теперь нам известно – по крайней мере, на промежутке в 50 лет – что случилось с предсказаниями из «2001», и как научная фантастика превратилась (или не превратилась) в научный факт. Что эта информация говорит нам о тех предсказаниях, которые мы можем сделать сегодня?
По моим наблюдениям, всё разбивается на три основных категории. Во-первых, есть вещи, о которых люди говорят уже много лет, и которые в итоге появятся – хотя и неизвестно, когда именно. Во-вторых, есть сюрпризы, которых никто не ожидал, хотя иногда, задним умом они могут казаться очевидными. В-третьих, есть вещи, о которых люди говорят, но которые потенциально нельзя реализовать в нашей Вселенной из-за законов физики.
Пример того, о чём люди уже давно говорят, и что обязательно когда-нибудь случится – это рутинные космические полёты. Когда вышел «2001» ещё ни один человек не покидал орбиты Земли. А в следующем году он уже побывал на Луне. В фильме было сделано вроде бы разумное предположение, что к 2001 году люди уже регулярно будут летать на Луну и даже смогут добраться до Юпитера.
На самом деле этого не произошло. Но могло произойти, если бы это рассматривали как приоритетную задачу. Просто для этого нет особой мотивации. Да, конечно, изучение космоса было всегда более популярным, чем, допустим, изучение океана. Но оно не казалось достаточно важным для того, чтобы вливать в это необходимые ресурсы.
Произойдёт ли это когда-нибудь? Мне кажется, определённо. Но через 5 лет или 50? Очень сложно предсказать – хотя, судя по происходящему, я бы сказал, что ответ лежит где-то посередине.
Люди рассуждают о полётах в космос уже более ста лет. О том, что сейчас называют ИИ, они говорили ещё дольше. И, да, иногда бывали разговоры о том, что какая-то особенность человеческого интеллекта настолько специфична, что ИИ её никогда не реализует. Но мне кажется, что в данный момент уже ясно, что ИИ неумолимо движется к тому, чтобы воспроизвести все особенности того, что мы называем интеллектом.
Более приземлённым примером того, что можно назвать «неизбежным развитием технологий», будут видеофоны. Как только у нас появились телефоны и телевизоры, появление видеофонов было неизбежным. И, да, прототипы были ещё в 1960-х. Но по причинам, связанным с мощностью и стоимостью компьютеров и телекоммуникаций, технология видеофонов не распространялась широко ещё пару десятилетий после этого. Но, по сути, она неизбежно должна была распространиться.
В научной фантастике, с момента изобретения радио, было обыкновением представлять, что в будущем все смогут общаться друг с другом посредством радио без задержек. И, да, на это ушла добрая половина века. Но в итоге у нас появились сотовые телефоны. А со временем и смартфоны, способные работать в качестве волшебных карт, волшебных зеркал и много чего ещё.
Пример того, что сегодня всё ещё находится на ранней стадии разработки – виртуальная реальность. Я помню, как ещё в 1980-х пробовал ранние VR-системы. Но тогда они не прижились. Думаю, что они неизбежно приживутся. Возможно, для этого потребуется передача видео с качеством, сравнимым с человеческим зрением (качество аудио находится на достойном уровне уже пару десятилетий). И распространится ли в результате VR, или дополненная реальность, пока неясно. Но что-то подобное будет однозначно, хотя, неясно, когда именно.
Можно цитировать бесконечное количество примеров. Люди говорили про робомобили с 1960-х. И в итоге они появились. Люди говорили о летающих автомобилях ещё дольше. Возможно, вертолёты и могли пойти в этом направлении, но из-за специфики управления и надёжности этого не случилось. Может, эту проблему решат современные дроны. Но, опять-таки, в итоге летающие машины появятся. Просто непонятно, когда именно.
Точно так же, в итоге везде будут роботы. Я слышу, что подобное «скоро произойдёт», уже последние лет 50, и прогресс идёт ужасно медленно. Но, как мне кажется, как только догадаются, как сделать «робототехнику общего назначения» – как мы делаем вычисления общего назначения – всё сильно ускорится.
Есть и ещё одна тема, хорошо просматриваемая за последние 50 лет: то, для чего когда-то требовалось делать специальные устройства, становится возможным достичь, запрограммировав устройство общего назначения. Иначе говоря, вместо того, чтобы полагаться на структуру физических устройств, возможности достигаются через вычисления.
К чему всё это придёт? По сути, к тому, что всё будет можно запрограммировать, вплоть до атомных масштабов. То есть, вместо постройки специальных компьютеров, можно будет делать всё «из компьютеров». Мне кажется, что это неизбежно. Хотя, эту тему ещё не сильно обсуждали и не рассматривали даже в научной фантастике.
Возвращаясь к более приземлённым примерам, вспомним и другие вещи, которые наверняка когда-то станут возможными. Это и бурение земной коры до мантии, и города под океаном (обе темы использовались в НФ – в «2001» можно даже увидеть рекламу подводного отеля компании Pan Am). Но будет ли решено, что эти вещи достойны того, чтобы к ним стремиться, пока неясно. Возрождение динозавров? Однозначно появится метод достаточно близко подойти к их ДНК. Сколько времени это займёт у биотехнологий, я не знаю, но в итоге у нас появится возможность завести живого стегозавра.
Возможно, одной из старейших идей в «научной фантастике» является идея бессмертия. И время жизни людей увеличивается. Но настанет ли момент, после которого люди с практической точки зрения смогут стать бессмертными? Уверен, что да. Будет ли этот путь в основном биологическим, или в основном цифровым, или комбинированным, с использованием молекулярных технологий, я не знаю. И не уверен, что всё это будет означать, учитывая неизбежное присутствие бесконечного количества возможных багов (сегодняшних «болезней»). Но я считаю однозначным, что в итоге старая идея о бессмертии будет реализована. Интересно, что Кубрик, энтузиаст таких вещей, как крионика, в интервью1968 года сказал, что, по его мнению, одной из вещей, которые произойдут к 2001 году, будет «устранение старости».
Каковы примеры того, что не произойдёт? Не зная фундаментальной теории физики, мы много в чём не можем быть уверены. И даже имея такую теорию, с учётом вычислительной несводимости будет довольно сложно просчитать все последствия какой-то определённой проблемы. Но два хороших кандидата на идеи, которые не реализуются – это миниатюризация в стиле "Дорогая, я уменьшил детей" и путешествия быстрее света.
По крайней мере, вероятность реализации этих идей в том виде, в котором они изображаются в НФ, небольшая. Но всё равно возможно, что случится что-то другое, функционально эквивалентное этому. Вероятно, что вполне возможно будет «отсканировать объект» на атомном уровне, и затем «заново интерпретировать» его, и построить весьма неплохую его аппроксимацию в гораздо меньшем размере.
Что насчёт путешествий быстрее скорости света? Возможно, когда-то станет возможным деформировать пространство-время так, чтобы двигаться быстрее. Или использовать для этого квантовую механику. Правда, всё это верно при условии, что подобные вещи происходят в нашей физической реальности.
Но представьте, что в будущем всех «загрузят» в некую цифровую систему, поэтому люди будут испытывать на себе некую виртуальную физику. И, конечно, оборудование, на котором всё это работает, будет подвержено ограничениям, основанным на скорости света. Но с точки зрения виртуального восприятия таких ограничений не будет. И в такой конфигурации можно представить себе и другую тему, любимую фантастами: путешествия во времени (несмотря на множество философских вопросов, с этим связанных).
Ладно, что насчёт сюрпризов? В сегодняшнем мире, по сравнению с миром 50-летней давности, можно найти несколько таких сюрпризов. Компьютеры гораздо более распространены, чем ожидали практически все. Существуют такие вещи, как веб, соцсети, которых никто не представлял (хотя задним умом они, возможно, и кажутся «очевидными»).
Есть и ещё один сюрприз, последствия которого поняты гораздо хуже, но с которым лично я общался очень плотно: то, что в вычислительной вселенной обнаружилась такая сложность и глубина.
Сюрпризы, почти по определению, происходят тогда, когда понимание того, что возможно, или что осмыслено, требует изменения , какого-то «сдвига парадигмы». Задним умом часто кажется, что такие изменения в просто происходят – допустим, в уме какого-то человека – практически случайно. Но на самом деле почти всегда идёт постепенное накопление понимания – которое, возможно, внезапно, позволяет человеку увидеть что-то новое.
В этом смысле интересно рассматривать сюжет «2001». Первая часть фильма демонстрирует инопланетный артефакт – чёрный монолит – появляющийся в мире наших предков, человекообразных обезьян, и запускает процесс, ведущий к современной цивилизации. Возможно, монолит должен передавать самые важные идеи обезьянам посредством телепатии.
Но мне нравится другая интерпретация. Ни одна обезьяна 4 млн лет назад никогда не видела идеально чёрного монолита точной геометрической формы. Но как только они его увидели, они поняли, что возможно что-то, чего они никогда себе не представляли. В результате их мировоззрение изменилось навсегда. И это – примерно как современная наука является результатом наблюдения Галилеем спутников Юпитера – позволило им начать конструировать то, что превратилось в современную цивилизацию.
Инопланетяне
Когда я впервые увидел «2001» пятьдесят лет назад, никто не знал, окажется ли на Марсе жизнь. Люди не ждали, что там будут жить какие-нибудь крупные животные. Но наличие лишайников или микроорганизмов казалось более вероятным, чем их отсутствие.
С появлением радиотелескопов и началом полётов в космос казалось вероятным довольно быстро обнаружить свидетельства наличия внеземного разума. Но в целом казалось, что люди особенно ни радовались, ни беспокоились по этому поводу. Да, конечно, можно вспомнить радиопостановку по роману «Война миров» Г. Уэллса, которую приняли за репортаж о реальном вторжении инопланетян в Нью-Джерси. Но спустя порядка 20 лет по окончанию Второй Мировой войны людей гораздо больше волновала идущая Холодная война, и казавшаяся реальной возможность поглощения всего мира пожаром ядерной войны.
Источником вдохновения для «2001» стал милый рассказ 1951 года Артура Кларка под названием "Часовой" о загадочной пирамиде, обнаруженной на Луне, оставленной там ещё до того, как на Земле появилась жизнь. Люди взломали её при помощи ядерного оружия, но обнаружили, что не могут понять её содержимое. Кубрик и Кларк беспокоились, что их историю ещё до выхода «2001» затмит реальное обнаружение внеземного разума (они даже изучали вопрос покупки страховки на этот случай).
Но «2001» стал первым серьёзным фильмом, изучавшим вопрос встречи с первым инопланетным разумом. Как я недавно подробно обсуждал, решение вопроса о том, было или не было нечто «произведено разумом», является очень сложной философской задачей. Но в современном мире у нас есть неплохой эвристический метод: геометрически простые вещи (с прямыми гранями, кругами и т.п.), скорее всего, являются артефактами. Конечно, в каком-то смысле немного обидно, что природа без всяких видимых усилий создаёт вещи, выглядящие гораздо более сложными, чем делаем мы, даже со всеми нашими инженерными хитростями. И эта ситуация, как я доказывал в другой статье, определённо изменится, по мере того, как мы будем всё больше пользоваться преимуществами вычислительной вселенной. Но пока что подход «если это геометрически простое, это, вероятно, артефакт» работает неплохо.
И в «2001» мы видим этот подход в работе – когда идеально прямоугольный чёрный монолит появляется на Земле возрастом 4 млн лет. Визуально вполне очевидно, что эта вещь находится не на своём месте, и что она, вероятно, была создана специально.
Позднее в фильме ещё один монолит находят на Луне. Его заметили благодаря «магнитной аномалии Тихо» [Tycho Magnetic Anomaly, TMA-1] – вероятно, названной в честь Южно-атлантической аномалии, связанной с радиационными поясами Земли, и открытой в 1958. Магнитная аномалия могла бы быть естественной («магнитная руда», как говорит один из персонажей). Но после раскопок обнаружился идеально прямоугольный монолит, единственным вероятным происхождением которого можно считать внеземной разум.
Как я уже писал, довольно сложно распознать работу интеллекта, у которого нет никаких исторических или культурных связей с нашим. И практически неизбежно такой чужой интеллект во многом окажется для нас необъяснимым. Интересный вопрос: что случится, если инопланетный разум уже каким-то образом встроился в нашу древнюю историю, как это показано в «2001».
Сначала Кубрик и Кларк решили, что им надо будет продемонстрировать инопланетян на каком-то моменте в фильме. И они волновались по поводу таких вещей, как количество ног. Но в итоге Кубрик решил, что единственным инопланетянином, который сможет достичь нужной ему степени таинственности и влияния на зрителя, будет тот, которого никто так и не увидит.
Поэтому в последние 17% фильма, после того, как Дэйв Боумен проходит через звёздные врата рядом с Юпитером, мы видим то, что, вероятно, должно было быть необъяснимым, но эстетически интересным. Естественный ли это мир другой части Вселенной, или это артефакты, созданные продвинутой цивилизацией?
Мы видим правильные геометрические структуры, выглядящие для нас, как артефакты. Мы видим более гладкие или органические формы, которые так не выглядят. На нескольких кадрах присутствует семь странных мигающих восьмигранников.
Уверен, что я не заметил их, когда впервые смотрел «2001» пятьдесят лет назад. Но к 1997-му, изучая фильм в связи с днём рождения HAL, я уже несколько лет размышлял о происхождении сложности и о разнице между естественными и искусственными системами – поэтому восьмигранники я заметил сразу. Да, и я провёл много времени, изучая лазердисковую версию «2001», которая у меня тогда была.
Я не знал, что должны были означать восьмиугольники. Из-за их периодического мигания я сначала принял их за некие космические маяки. Но мне сказали, что это, предположительно, и есть сами инопланетяне, этакое их небольшое камео. Существовала версия сценария, в котором восьмигранники в итоге принимают участие в параде с конфетти в Нью-Йорке – но мне кажется, что в камео они смотрятся лучше.
Когда Кубрик давал интервью по поводу «2001», он рассказал об интересной теории, связанной с инопланетянами: «Они могли развиться из биологического вида, из хрупких оболочек для разума, в бессмертные машинные существа – а затем, спустя неисчислимые годы, из куколок материи превратиться в существа из чистой энергии и духа. Их потенциал тогда был бы безграничным, а интеллект – необъятен для людей».
Интересно видеть, как Кубрик играет с идеей о том, что у разума и интеллекта не обязательно должна быть физическая форма. Конечно, HAL уже представляет собой подобие нефизического разума. Но в 1960-х, когда идея ПО только появлялась, ещё не было чёткого представления о том, что вычисления будут чем-то ценным сами по себе, независимым от частностей реализации оборудования.
Возможность универсальности вычислений появилась как математическая идея в 1930-х. Но были ли у неё физические последствия? В 1980-х я начал говорить о таких вещах, как вычислительная несводимость, и о глубоких связях универсальных вычислений и физики. Но в 1950-х люди искали более прямых следствий универсальности вычислений. Одной из заметных идей были «универсальные конструкторы» – которые каким-то образом были бы способны сконструировать всё, что угодно, точно так же, как универсальные компьютеры могут подсчитать всё, что угодно.
В 1952, в рамках попытки «математификации» биологии, Джон фон Нейман написал книгу о «самовоспроизводящемся автомате», в которой описал нечто вроде чрезвычайно сложного двумерного клеточного автомата с конфигурацией, воспроизводящей саму себя. И, естественно, в 1953, оказалось, что конструкцию биологических организмов определяет цифровая информация, закодированная в ДНК.
Но в каком-то смысле работа Неймана была основана на неверной интуиции. Он предполагал (как и я, пока не увидел свидетельств противного), что вещь, обладающая такой сложной функцией, как самовоспроизводство, и сама должна быть очень сложной.
Но, как я обнаружил много лет спустя, экспериментируя в вычислительной вселенной простых программ, сложное поведение не является прерогативой сложных программ: это могут делать даже простые системы (типа клеточных автоматов) с наипростейшими правилами из всех, что можно представить. И, конечно, вполне возможно придумать систему с очень простыми правилами, способную к самовоспроизведению. В итоге самовоспроизведение оказывается не такой уж и серьёзной особенностью (представьте себе код на компьютере, копирующий сам себя, и т.п.).
Но в 1950-х фон Нейман и его последователи этого не знали. И, учитывая интерес к космической тематике, неизбежно идея самовоспроизводящихся машин превратилась в идею о самовоспроизводящихся космических зондах (а также лунных фабриках, и т.п.).
Не уверен, сошлись ли вместе все эти идеи ко времени создания «2001», но ко времени появления сиквела, "Космическая одиссея 2010", Кларк уже решил, что чёрные монолиты были самовоспроизводящимися машинами. И в сцене, напоминающей современную идею о том, что ИИ, озадаченный проблемой изготовления бумажных скрепок, превратит всё (в том числе и людей) в бумажные скрепки, чёрные монолиты превращают целую планету Юпитер в гигантскую коллекцию чёрных монолитов.
Что в «2001» пытаются сделать инопланетяне? Думаю, Кубрик понимал, что их мотивацию будет довольно трудно сопоставить с чем-то человеческим. Почему, к примеру, Дэйв Боумен оказывается в помещении, похожем на отель в стиле Людовика XV – это, вероятно, наиболее вневременная обстановка из всего фильма (кроме того факта, что в соответствии с привычками 1960-х в номере есть ванна, но нет душа)?
Интересно, что в «2001» есть одновременно и искусственный, и инопланетный интеллект. Интересно, что спустя 50 лет после выхода 2001, мы всё более проникаемся идеей ИИ, и однако уверены, что не сталкивались со свидетельствами наличия инопланетного разума.
Я думаю, что большая проблема размышлений над инопланетным разумом заключается в определении того, что мы считаем разумом. Нам, людям, довольно легко создать докоперниковское представление о том, что наш интеллект и возможности являются чем-то фундаментально особенным, точно так же, как когда-то считалось, что Земля является центром вселенной.
Но мой принцип вычислительной эквивалентности говорит о том, что на самом деле мы никогда не сможем определить какие-то фундаментальные особенности, связанные с нашим разумом; его особенности заключаются в определённой истории и связях. Есть ли у погоды «своё собственное мнение»? Согласно принципу вычислительной эквивалентности, я не думаю, что между вычислениями, происходящими в природе, и вычислениями, происходящими в нашем , есть какая-то фундаментальная разница.
Точно так же, заглядывая в космос, легко видеть примеры сложных вычислений. Мы, конечно, не считаем сложные процессы, идущие в магнитосфере пульсара, «инопланетным разумом», мы просто считаем их чем-то естественным. В прошлом мы могли бы говорить о том, что каким бы ни был сложным процесс, он каким-то образом оказывается фундаментально проще человеческого интеллекта. Но если учитывать принципа вычислительной эквивалентности, это неверно.
Так почему же мы не считаем магнитосферу пульсара примером «разума»? Потому что мы не распознаём в ней ничего похожего на нашу историю или подробности нашего поведения. В результате у нас нет способа связать то, что он делает, с целями, которые мог бы понять человек.
Вычислительная вселенная всех возможных программ полна сложных вычислений, не совпадающих ни с какими из существующих целей человека. Но пытаясь разработать ИИ, мы на самом деле просеиваем эту вычислительную вселенную в поисках программ, делающих то, что нам надо.
Однако в этой вычислительной вселенной существует бесконечное количество «возможных ИИ». И те, что мы пока выбираем не использовать, не уступают другим; мы просто ещё не видим, как совместить их с тем, что мы хотим.
ИИ – первый пример чужеродного интеллекта, который мы видим (да, есть ещё животные, но с ИИ соединиться проще). Мы всё ещё находимся на ранних этапах попыток распространения интуиции, касающейся ИИ. Но чем больше мы будем понимать, чем ИИ может стать, и как он связан со всеми остальными частями вычислительной вселенной, тем понятнее нам будет становиться, какие формы может принимать разум.
Найдём ли мы внеземной разум? Во многих отношениях, думаю, уже нашли. Он везде вокруг нас, по всей Вселенной, занимается всякими разными сложными вычислениями.
Настанет ли такой яркий момент, как в «2001», когда мы обнаружим внеземной разум, достаточно совпадающий с нашим, чтобы мы смогли распознать изготавливаемые им идеальные чёрные монолиты – даже если мы и не сможем понять их предназначение? Сейчас я подозреваю, что вместо того, чтобы увидеть что-то, что мы сразу распознаем, мы будем постепенно обобщать наше понятие интеллекта, до тех пор, пока не сможем приписать его не только себе и ИИ, но и другим вещам во Вселенной.
Когда я увидел «2001» впервые, не думаю, что я даже занимался подсчётами того, сколько лет мне исполнится в 2001-м. Я всегда размышлял о том, каким может стать будущее, но не представлял себе, как буду жить в нём. Когда в 1968-м мне было 8, меня больше всего интересовал космос, и я делал множество тщательно собранных буклетов, с напечатанным текстом и аккуратно нарисованными диаграммами. Я хранил подробные отчёты о каждом запущенном космическом зонде, и пытался разрабатывать схемы своих собственных космических кораблей.
Что заставляло меня это делать? Как и многое, что я делал потом в своей жизни, я делал это потому, что мне было это интересно. Я никогда их никому не показывал, и меня никогда не интересовало, что может подумать о них кто-либо другой. И почти 50 лет я хранил их. Но изучая их сейчас, я нашёл один уникальный пример того, что связано с моими интересами, сделанный мною для школы: буклет под очаровательным названием «будущее», написанный, когда мне было 9-10 лет, содержащий ужасно позорную для меня страницу предсказаний будущего космических исследований (вместе с отсылкой к «2001»):
К счастью, я не стал ждать, чтобы выяснить, насколько неправильными оказались эти предсказания, и за пару лет мой интерес к космосу превратился в интерес к более фундаментальным областям, сначала к физике, а потом к вычислениям и исследованию вычислительной вселенной. Когда в 1972 я впервые начал использовать компьютеры, это были бумажные ленты и телепринтеры – бесконечно далеко от мерцающих экранов «2001».
Но мне повезло прожить всё то время, в течение которого компьютерные технологии из «2001» превратились из вымысла в что-то близкое к фактам. И ещё больше повезло сделать свой небольшой вклад в это.
Я часто говорю, что – под определённым влиянием «2001» – моим любимым стремлением является создание «инопланетных артефактов»: вещей, которые можно распознать после создания, но существования или возможности которых никто не ожидал. Мне нравится считать, что один из примеров – это Wolfram|Alpha, а также то, во что превратился Wolfram Language. И, в каком-то смысле, мои попытки изучения вычислительной вселенной.
Я никогда не общался со Стэнли Кубриком. Но я общался с Артуром Кларком, в частности, при публикации моего большого труда «Наука нового типа». (Мне нравится считать, что эта книга большая по содержанию, но она определённо большая по размеру – 1280 страниц, почти 3 кг). Артур Кларк попросил меня отправить ему копию до публикации, что я и сделал, и 1 марта 2002 года я получил от него электронное письмо, где говорилось: «Надорвавшийся почтальон ковыляет прочь от моей двери… Не переключайтесь…»
Затем, спустя три дня, я получил ещё одно письмо: «Ну что ж, я просмотрел почти все страницы, и всё ещё нахожусь в шоке. Не понимаю, как вы смогли это сделать даже при помощи компьютеров». Ого! Мне реально удалось сделать то, что для Артура Кларка показалось инопланетным артефактом!
Он предложил мне цитату для обложки: «Главный труд Стивена, возможно, является книгой десятилетия, если не столетия. Он настолько всеобъемлющий, что мы, вероятно, должны назвать его „Вселенная нового типа“, и даже те, кто пролистает 1200 страниц (весьма здравого) текста, сможет насладиться компьютерными иллюстрациями. Мой друг HAL очень сожалеет, что не придумал их первым». В итоге Стив Джобс отговорил меня от цитат на обложке, сказав: «У Исаака Ньютона не было цитат на обложке; тебе-то они зачем?»
Мне сложно поверить, что с тех пор, как я впервые увидел «2001», прошло 50 лет. Не все детали из фильма (пока) стали реальностью. Но для меня важно то, что он предложил идею того, что может быть возможным – идею того, насколько другим может быть будущее. Это помогло мне поставить мою жизнь на путь попыток определения будущего всеми доступными мне средствами. И не просто ждать, пока инопланетяне доставят нам монолиты, но самому пытаться создать «инопланетный артефакт».
Автор: Вячеслав Голованов
