В одном из предыдущих постов я доказывал, что создать искусственный разум (ИР) невозможно (здесь). Не отказываясь от прежнего мнения, хочу тем не менее рассмотреть вопрос о принципах работы того, что невозможно создать. По какому пути пойти человечеству, чтобы обмануть пускай не природу, но хотя бы самого себя – посчитать, что проблема создания ИР благополучно разрешена? На мой взгляд, по этому.
Оговорюсь, что все высказываемое ниже:
а) МНЕНИЕ,
б) мнение ЧАСТНОЕ,
в) частное мнение ДИЛЕТАНТА (специалиста в иной области, вышедшего на проблему ИР в ходе решения своих узкопрофессиональных задач).
О заставке: из высовываются, наряду с механическими приспособлениями, не половые члены носорога, как вы могли подумать, а глаза улитки. Они символизируют сенсоры, которыми обладает ИР.
***
Начну с совсем тривиального.
Если задача состоит в том, чтобы искусственное существо реагировало – причем разумно! – на внешние сигналы, существо должно иметь устройства, воспринимающие эти внешние сигналы (в чем никто никогда и не сомневался). Тут возможны два варианта:
1) устройство ввода «готовой» информации – попросту говоря, клавиатура или нечто, ее заменяющее,
2) датчики, воспринимающие внешнюю информацию.
Разница между вариантами кардинальная:
• в одном случае ИР оперирует информацией, которая в него вводится человеком,
• в другом случае информация поступает из окружающей среды.
Концепция создания ИР исходит из того, что искусственный человек должен быть неотличим от естественного, живого – тем самым на предположении, что естественный человек тоже некоторым образом механическое существо и его устройство можно повторить на иной элементной базе. Но если так, то вариант со вводом заранее подготовленной информации категорически не подходит. Естественный человек черпает знания из окружающей среды, разнообразной и непрогнозируемой, поэтому создать нечто, имитирующее человека, возможно лишь, подключая ИР к той информационной базе, которой пользуется сам естественный человек. Ограничив среду ИР, к примеру, игрой в крестики-нолики, мы получим игрока в крестики-нолики, но никак не полноценный разум в том смысле, какой нам желателен, – такой разум, который сможет поспорить с человеческим во всех интеллектуальных аспектах.
Просиживая ночи за компьютером, вы можете сколь угодно долго составлять алгоритмы или вводить исходные данные, но никогда не наполните искусственный животрепещущим содержанием того же уровня качества и сложности, что у вас.
Требуется иное: компьютерный вычислитель с подсоединенными к нему датчиками, реагирующими на окружающую среду, – только тогда, есть надежда, ИР воспримет вас в качестве разумного существа и заговорит на равных.
Какими должны быть датчики? Над этим стоит призадуматься.
Когда человечество желает изобрести ИР, оно ищет себе равного собеседника или же существо, превышающее ее интеллектом? Если второе, то использование самых разнообразных сенсоров – таких в том числе, которыми не обладает естественный человек, – всячески приветствуется. Правда, в этом случае ИР будет обладать иным типом , чем естественный человек. Я имею в виду не элементную базу, из которой скроены – что естественные, что искусственные, – а именно тип , прямо зависимый от того, что субъектом воспринимается. Все помнят притчу про то, как троих слепцов подводят к слону и требуют его охарактеризовать: в зависимости от того, до какой части тела слона – ноги, хвоста или бивня, – дотронулся слепец, различаются выданные характеристики.
Вывод напрашивается: если мы хотим, чтобы ИР разговаривал с нами на одном языке, его восприятие мира должно быть аналогичным человеческому.
***
Ладно, предположим, идеальное соотношение между типами датчиков найдено, тем более что выбор определяется техническими возможностями и не слишком велик, что дальше?
Как ИР должен быть устроен? На основе обратной связи, само собой разумеется: учитывать воздействие выходной информации на окружающую среду, тем самым предвидеть ее и манипулировать ей, – ведь отличие человека от неживой природы в том и состоит, что человек в состоянии предвидеть последствия своих поступков. ИР должен быть деятельным существом, оказывать воздействие на окружающий мир и анализировать последствия своих воздействий. Никто не сомневался, собственно.
Однако так, как изображено выше, обратная связь реализована быть не может.
Почему? Потому что представленной схеме она отсутствует: здесь обратная связь лишь мыслится наблюдателем, находящимся за границами созданной системы. Сам же вычислитель – ИР – не в состоянии интерпретировать свои команды как изменяющие внешнюю для него среду: у него нет для этого оснований. Имеется входная информация, на которую вычислитель реагирует в соответствии с заложенным алгоритмом: каждая последующая реакция (команда вычислителя), по сути, предрешена новой порцией информации. Алгоритм может быть сколь угодно сложным, но назвать подобное разумом язык не поворачивается.
Если мы исходим из того, что человек сотворен в качестве механизма, пускай биологического, и хотим искусственно воспроизвести человека на иной элементной базе, необходимо сделать так, чтобы вычислитель воспринимал не только внешнюю среду, но и себя (свое собственное «я») во внешней среде. Это может быть реализовано на уровне датчиков. Так у человека: одни его ощущения (зрение, слух, обоняние) отвечают за объектный мир, другие (осязание, вкус) – за субъектный. Данная особенность строения дает человеку возможность воспринимать себя как деятеля – в виде действующего в окружающей мире субъекта.
Значит, при создании ИР следует разделять датчики на:
• показывающие состояние внешней среды;
• показывающие состояние самого механизма, претендующего на звание разумного.
Так как человек в отношении к творению рук своих находится во внешней области, отграничить первые от вторых совсем не сложно. К примеру, один датчик измеряет температуру внешней среды, а второй датчик – температуру вычислителя.
Но! – человек деятелен не только в области сознания, но и в области материи, поэтому простое состояние искусственной системы тестировать недостаточно. Если датчики второго типа будут показывать состояние механизма, которое никак не коррелирует с состоянием внешней среды, никакого ИР не получится, хотя бы в силу того, что это не походит на естественного человека.
Естественный человек – это деятель, субъект в объектной среде и в этом смысле сам является объектом:
• с одной стороны, окружающая среда влияет на человека,
• с другой стороны, сам человек обладает способностью влиять на окружающую среду.
По этой причине ИР – если желает быть разумным, конечно, – обязан воздействовать на окружающую среду не только информационно, но и вполне себе материально, в качестве объекта.
Вряд ли я произведу фурор заявлением, что разумному механизму необходимы:
а) манипулятор (функции чего у человека выполняют руки), и
б) средство передвижения (ноги).
Руки и ноги – именно то, при помощи чего естественный человек воздействует на окружающую среду. Соответственно, и ИР без рук будет, как без ног, а без ног, как без рук (шутка): станет получать информацию от окружающей среды иную, чем получает человек, вследствие чего вынужденно приобретет иной, чем у человека, тип . А мы договорились о желательности того же типа : чтобы ИР мог общаться с естественным человеком на одном языке.
Короче, приделываем к нашему ИР средство передвижения и манипулятор, причем с обязательным расположением на них хотя бы некоторых датчиков, которые должны реагировать на изменение положения – не окружающей среды, но именно средства передвижения и манипуляторов.
Здесь возникают вопросы, которые желательно разрешить.
1. Должны ли датчики, регистрирующие внутреннее состояние механизма, совпадать по типу с датчиками, регистрирующими состояние внешней среды?
Вероятно, нет, так как у человека они не совпадают: как говорилось, одни человеческие ощущения (зрение, слух, обоняние) отвечают за объектность, другие (осязание, вкус) – за субъектность. Хотя можно предположить, что это не является обязательным условием. Легко представить (что я несколькими абзацами выше сделал) два температурных датчика, первый из которых измеряет температуру вычислителя, а второй – температуру окружающей среды. Важно лишь, чтобы показания на них могли быть различными и каждый датчик воспринимался вычислителем как относящийся либо к внешней среде, либо к самому механизму. Золотой середины – характеризовать и объект, и субъект одновременно – быть не может.
2. Сколько должно быть датчиков?
В идеале, они должны соответствовать пяти человеческим ощущениям, хотя определять все равно придется исходя из имеющихся технических возможностей. То же можно сказать в отношении числа датчиков, относящихся к одинаковым ощущениям (ведь можно установить один «внешний» температурный датчик, а можно два, три или больше).
3. Должны ли датчики быть установлены только на манипуляторах или допустимы другие, характеризующие внутреннее, не связанное с окружающей средой состояние?
На манипуляторах датчики обязательны, при этом их роль двойственна. Ведь датчики должны регистрировать нечто для внешнего наблюдателя объективное, а для самого обладателя ИР попеременно то объективное, то субъективное.
Представим, что вычислитель подает команду продвинуться вперед. Механизм продвигается вперед, но окружающая среда такова, что механизм отбрасывает назад. Здесь имеет место два последовательных показания датчика, регистрирующего ход:
• продвижение вперед, соответствующее выданной вычислителем команде – это изменение субъектное, «волевое»;
• отбрасывание назад при отсутствии команды вычислителя. Это означает реакцию окружающей среды, так и должно трактоваться вычислителем.
Другими словами, изменение показателя непосредственно при команде вычислителя трактуется как результат выполнения команды, изменение показателя без команды вычислителя трактуется как изменение окружающей среды. В этом отличие от датчиков, измеряющих состояние окружающей среды: они регистрируют состояние окружающей среды независимо от команды вычислителя.
Датчики, характеризующие внутреннее, причем не связанное с окружающей средой состояние механизма, возможны, но в таком случае они не смогут принять участие в вычислениях, т.е. в процессе искусственного .
Предположим, датчик показывает оставшийся запас энергии, и что дальше? Если механизм не должен никак реагировать на данный факт – если этот показатель значим лишь для создателя ИР, наблюдающего за механизмом со стороны, – полученные показания для анализа ситуации бессмысленны. Но если механизм добывает энергию из окружающей среды самостоятельно, тогда, конечно, показания о запасе энергии – одни из наиболее существенных. Чем больше корреляция внешней среды с показаниями датчиков, отвечающих за состояние механизма, тем более глубокий анализ может быть проведен вычислителем и большего качества интеллект реализован.
Допустим, имеет место по три датчика обоих типов: показывающих состояние внешней среды и состояние механизма.
Вычислитель подает сигнал манипулятору и средству передвижения, датчики фиксируют их изменение, что приводит к изменению внешней среды, в том числе в виде ответного воздействия внешней среды на механизм, что тоже фиксируется.
Это уже настоящая обратная связь, которая может быть проанализирована в качестве таковой.
***
А что, собственно, подлежит анализу? Показания датчиков, конечно…
Полученные от датчиков сигналы необходимо анализировать, для чего разбивать на элементарные значащие блоки, которые определенным образом соотносить друг с другом. Любой вычислитель устроен подобным образом, только в одном случае (при аналоговых показаниях датчиков) он предварительно «разлагает» полученный информационный ряд на единичные смысловые элементы, а во втором случае (при дискретных, в виде элементарного значения, показаниях) – получает их от датчиков, что называется, разложенными по полочкам. Но это для внешнего наблюдателя, а для себя самого – имею в виду вычислитель – информация всегда дискретна и структурирована. Эта дискретная и структурированная информация – то, что принято называть базой данных.
Я пытаюсь доказать, что любая информация может представлена лишь в виде последовательности дискретных элементарных сигналов (значений) по некоторому количеству сенсоров.
Значения по каждому из использованных нами датчиков несравнимы (если, конечно, датчики не однотипны), но ради наглядности примем их за числовые. В этом случае воспринимаемая ИР реальность будет представлять собой базу данных с числовыми значениями, подлежащими обработке.
Та самая матрица, короче…
Если вы возразите, что человек воспринимает мир на аналоговой основе, мне придется возразить со всей возможной вескостью. Ничего подобного! Зрительная картинка, которую мы наблюдаем, – вовсе не двухмерное изображение, а… точка, т.е. единственное значение (нечто значащее). Все остальное, воспринимаемое нами в виде целостного зрительного изображения – не более чем довесок к действительно наблюдаемой точке, частично интеллектуальный, а частично относящийся к внутренней структуре нашей информационной системы.
Дальнейшие объяснения уведут нас далеко от ИР, поэтому возвращаюсь к нашим баранам.
Итак, вычислитель любого разумного существа – человеческий в том числе – работает с базой, состоящей из элементарных показаний сенсоров.
База постоянно обновляется вследствие ограниченности объема: уже проанализированные, отслужившие данные стираются, чтобы уступить место новым. Доказательством этого утверждения служит невозможность восстановить каждое мгновение прожитой жизни: данные стираются из нашей памяти за ненадобностью, оставляя место лишь действительно важным и уникальным событиям. Звучит банально, но реальность вообще до жути банальна – это ее основное свойство, по всей видимости.
***
Далее – о проблеме самообучения.
Человек – система явным образом самообучающаяся, следовательно, и ИР должен быть системой самообучающейся. Лично я вижу два пути решения:
1) самообучения можно достигнуть за счет усложнения алгоритмов, применяемых разумом, – некоторым образом, самого разума;
2) либо за счет перехода на качественно новую ступень абстрагирования, при использовании алгоритмов, остающихся неизменными.
Первый способ применяется редко. Отбраковываем его как непрактичный и, по большому счету, неосуществимый из-за высоких теоретических соображений: где это видано, чтобы компьютерная программа писала саму себя?! До некоей установленной разработчиком границы это представимо, но лишь до четко установленной границы, далее которой какое-либо развитие – применительно к созданию ИР, самообучение, – полностью прекращается.
Остается второй вариант, при котором заложенный в систему алгоритм остается неизменным, а самообучение происходит за счет постоянного усложнения обрабатываемой информации – в нашем случае, за счет постоянного перехода с низкого уровня абстрагирования на более высокий. Именно так устроен человеческий , по моим предположениям.
Что такое человеческий мир – если, конечно, принять человека за механизм, который можно воспроизвести искусственным образом? Куски запредельного, структурированные в базу данных, с которой работает естественный вычислитель – человеческий . При этом база окружающей среды обладает внутренней структурой, определяемой ее идентификаторами. Но имеется нечто, помимо названного: отношения между значащими элементами системы или идентификаторами. Эти отношения определяются по двоичному принципу: схоже – не схоже. Зеленый цвет одного объекта схож с зеленым цветом другого объекта и не схож с красным цветом третьего объекта, и т.д. Поскольку и куски запредельного, и отображающие внутреннее строение системы идентификаторы представляют собой некоторые значения, можно сказать, что любое отношение – результат сравнения двух значений. Сравнивая одно значение с другим, можно «переходить» по базе данных с одного значения на другое и с одной строки на другую. Вот так приблизительно.
Переходим от -4 к 5, т.к. эти значения относятся к одной записи (а запись в системе идентифицирована, т.е. обозначена идентификатором), затем от 5 одной записи к 5 другой записи (т.к. значения совпадают) и т.д. В результате проделанной работы значение -4 начинает соотноситься со значением 12. Все это не произвольно, разумеется, а на основании заложенного в программу алгоритма.
Данный принцип «хождения» по цепочкам значений чрезвычайно напоминает дедуктивный метод Шерлока Холмса, в частности, тот случай, когда Холмс по взгляду Ватсона, брошенному им на какой-то предмет, и дальнейшим его гримасам смог восстановить цепочку его мыслей. Не помню, какому рассказу принадлежит данный отрывок, но суть ясна: вы бросаете взгляд и через мгновение вспоминаете нечто, связанное с увиденным предметом. Это и есть принцип действия нашего (что олично известно): ассоциативно, по цепочке значений, от одного к другому, – а раз так, данный принцип надлежит воспроизвести при создании ИР.
Один акт умственного анализа – сравнение значений через какую-либо ассоциативную цепочку. Ассоциативная цепочка конечна, ведь путешествовать по отношениям можно сколь угодно долго, и определяется техническими возможностями системы. Полученные отношения (в нашем примере между -4 и 12) складируем в отдельную, предназначенную для хранения отношений базу данных.
Получается, что в системе содержится две базы данных (выполняющих функцию памяти):
1) база, хранящая показания датчиков,
2) и база, в которую записываются отношения между значениями – иначе говоря, результаты сравнений.
Обе базы обрабатываются при помощи алгоритма, который привнесен в систему извне, ее создателем-разработчиком, и остается неизменным.
По результатам обработки выдается команда на действие.
Какая связь между ИР и отношениями, получаемыми при сравнении значений? Та же, как и между дедуктивным методом Шерлока Холмса и поиском преступников.
Допустим, число 9 на датчике № 3 влечет за собой в следующее мгновение (в следующей записи, с точки зрения базы данных) число -8 на датчике № 6, что является для системы неблагоприятным. Ведь датчики № 4-6 отражают внутреннее состояние механизма, поэтому изначально, на программном уровне, могут (и должны) быть интерпретированы как благоприятные, инертные и неблагоприятные.
Анализ отношений между показаниями датчиков № 3 и № 6 укажет на причинно-следственную зависимость между ними.
До некоторых пор установленное отношение ни о чем не говорит, ведь на других датчиках присутствуют свои показания, но в случае регулярной повторяемости выводится статистическая закономерность: показание 9 на датчике № 3 приводит к неблагоприятному показанию -8 на датчике № 6.
Теперь посмотрим, как система должна на неблагоприятное показание реагировать. Вероятно, точно так же, как реагирует человек, дотронувшийся до раскаленной плиты – отдергивать руку. Правда, рука отдергивается рефлекторно – в большинстве ситуаций для адекватной реакции необходимо обладать некоторым опытом, которого нет у нашего ИР. Значит, опыт придется приобретать.
Вычислитель способен отдавать команды на средство передвижения и манипулятор – то, что в свою очередь обладает способностью воздействовать на окружающую среду. Предположим, что для преодоления негативного последствия необходимо послать на датчик № 4 команду -1. Но вычислитель – не обучившийся, конечно, – этого знать до поры до времени не может, поэтому он перебирает допустимые команды и одновременно устанавливает зависимость между ними и ответной реакцией окружающей среды. Рано или поздно статистическая закономерность между необходимой командой -1 на датчик № 4 обнаружится. Если закономерность подтвердится (при каждой команде -1 на датчик № 4 значение 9 на датчике № 3 будет изменяться на безопасное), проблема будет разрешена… до появления новой проблемы, разумеется, – например, до обнаружения более сложной статистической закономерности между показаниями датчиков.
Именно так ведет себя естественный человек – именно так должен вести себя и ИР, во всем, кроме элементной базы, копирующий естественного.
Можно ли признать подобный способ анализа и действий самообучающейся системой? Ни в коем случае – в ней имеется развитие, но нет качественной динамики, которая возникает лишь с переходом на новый уровень абстрагирования. Человек вовсе не сравнивает каждое зеленое яблоко с каждым красным – данный уровень остается во младенчестве, – а сразу, после получения первоначального ощущения, переходит на куда более сложные абстрактные категории. Эти абстракции – результат того же самого мыслительного действия, т.е. сравнения, однако не полученных с датчиков элементарных сигналов, а отношений между отношениями, и так далее с каждым следующим уровнем. Однажды выведенную зависимость между показаниями счетчиков № 3 и № 6 можно сравнить с новыми показаниями датчиков, и при обнаружении зависимости вывести новую зависимость, которую в свою очередь сравнить с ранее выведенной зависимостью, чтобы получить еще одну зависимость, и так насколько сил хватит.
Сравнивать по двоичному признаку – или да, или нет – необходимо не только значения, но и отношения, и отношения отношений, и отношения отношений отношений и далее… Каждый значимый результат с присвоенным ему идентификатором, записывается в базу отношений.
Возможность сравнивать с показаниями датчиков уже установленные отношения или сравнивать отношения с отношениями означает поиск новых статистических закономерностей не только в базе датчиков, но и в базе отношений.
Вычислитель ищет статистические закономерности в обеих базах и записывает полученные результаты в базу отношений, показания датчиков нужны лишь для установления новых зависимостей окружающего мира. При этом база отношений обновляется лишь в случаях:
а) исправления ошибочного отношения между значениями,
б) замены отношений одного порядка абстрагирования на отношения более высокого порядка абстрагирования.
Тем самым работа вычислителя заключается лишь в установлении зависимостей между показаниями датчиков и/или ранее установленными зависимостями (отношениями). Так функционирует и человек естественный: при виде предмета, он не осмысливает, тем более не восстанавливает заново все связанные с данным предметом отношения, а реагирует по последней ассоциации во всей имеющейся полноте, например при виде врага тянется к парабеллуму. Ассоциативная цепочка – в сильно упрощенном виде, конечно, – выглядит так: враг (показания датчиков, интерпретированные как приближение врага) – сигнал об опасности – парабеллум (предупредительная реакция). А самообучаемость системы определяется переходом на все новые и новые уровни абстрагирования.
В теоретическом плане уровни абстрагирования бесконечны – я это понимал, но решил перепроверить. А поскольку с математикой не в ладах, пришлось лезть с вопросами к детишкам, хотя они у меня шибко занятые и папиных вопросов не любят.
Допустим – спросил я детей (спрашивал-то я не так, конечно, это потом мой вопрос пришлось приводить в более математический вид), – имеется множество из n1 объектов. Пусть n1,i – i-й объект этого множества. Между любыми двумя объектами существует единственная связь: (n1,1, n1,2), (n1,1, n1,3), (n1,2, n1,3) и т.д. Объединяем элементы и их связи в новое однотипное множество с числом элементов n2 и повторяем всю описанную операцию (k-1) раз. Вопрос: какой формулой отображается полученное число элементов nk (которое, если вы поняли, показывает число элементов для сравнения, которыми оперирует система на уровне абстрагирования k)?
После некоторых ломаний, обсуждений и сокращений детишки общими усилиями соорудили следующую конструкцию:
Не возьмусь судить, насколько полученная математическая формула верна, – и без нее ясно: чем выше уровень абстрагирования, тем больше элементов для сравнения.
Вычислитель – все равно, искусственный или естественный, – не в состоянии обрабатывать уходящие в бесконечность информационные массивы, поэтому на определенном уровне останавливается. Вполне соответствует обыденности, между прочим: интеллектуал способен мыслить высокими абстрактными категориями, тогда как для не-интеллектуал, напротив, реагирует в основном на такие простейшие понятия как «баба», «закуска» и «телевизор».
***
В рассмотренном методологическом русле может быть решена и проблема общения, без которой разумное существо, как правило, не мыслится.
Как известно, общение между собой разумных существ возможно лишь через символы, представляющие собой вполне материальные предметы, вместе с тем обладающие свойством обозначать что-то иное – не то, чем они являются на самом деле. Слово «камень», написанное или произнесенное, представляет собой результат чьих-то ощущений, при этом вовсе не напоминает лежащий на обочине камень. А телепатия, увы, невозможна.
Что сие означает применительно к теме настоящего поста? То, что разумное существо всего лишь интерпретирует какой-либо предмет как равнозначное себе по разуму существо по показаниям датчиков, – на каком-то уровне абстрагирования, разумеется.
Возьмем предыдущий пример с датчиком № 3, значение 9 которого приводит к неблагоприятному показанию -8 на датчике № 6. Если перед этим время от времени на датчике № 2 возникает значение 1, само по себе инертное, но после которого наступают описанные выше неблагоприятные последствия, это может быть расценено как предупреждение.
При обнаружении других статистических зависимостей – особенно и на должном уровне абстрагирования и таких, при которых показания датчиков состояния механизма совпадают с показаниями датчиков окружающей среды (если это датчики одного типа), – может (но не обязательно должен) быть сделан вывод о существе, равнозначном себе по разуму. Значение 1 на датчике № 2 окажется в таком случае сигналом, предупреждающим об опасности.
***
Углубляться далее бессмысленно. В любом случае я не в состоянии написать алгоритм ИР, но на общий (приблизительный) принцип его действия, как мне кажется, указал (если не для читателей, так для самого себя, по крайней мере). Это:
• сравнение значений в обеих базах: датчиков и отношений,
• установление статистических зависимостей между значениями и запись результатов в базу отношений,
• команда вычислителя исходя из ранее установленных зависимостей.
Возможно, пропущены какие-нибудь чисто технические блоки механизма, но в целом должно быть понятно.
В природе-то в любом случае сложней. Человек рождается не с врожденными базами данных (датчиков и отношений), а наполняет их по мере взросления в течение нескольких лет. Сначала младенец ощущает лишь вкусовые и цветовые пятна, которые по приобретении некоторого опыта начинают складываться в более-менее целостные картины, затем наступает черед абстракций более высокого порядка. И так – если, конечно, не повезет родиться бездушной скотиной, – до конца жизни. А сколько лет должен обучаться ИР, остается гадать лишь на кофейной гуще: вряд ли, если даже удастся его корректно спроектировать, обучится быстрей естественного младенца, по моему разумению.
***
Схема, приведенная выше, не полна: в ней не хватает главного, а именно сверхзадачи, поставленной создателем ИР.
Не существует механизмов самих по себе, а существуют механизмы, приспособленные для конкретных целей: бритья, снегоуборки, выжимания морковного сока, общения с человеком на равных. Система ИР тоже должна обладать подобной сверхзадачей, в противном случае она будет функционировать не разумно, а вполне себе механически – что называется, без огонька. Вы помните нашу начальную посылку: если ИР хочет уподобиться естественному, он обязан заимствовать у естественного разума все, кроме элементной базы? А какова стоящая перед человеком сверхзадача и, главное, каким способом она реализована в принципиальной схеме естественного человека?
По моему убеждению, сверхзадача реализована в естественном человеке двояко – точнее, трояко.
1. Во-первых, при помощи предельных значений датчиков.
Каждое из субъектных ощущений (осязание, вкус) имеет область нормальных значений, за которой начинается область значений ненормальных, опасных для функционирования организма. Существуют приятное прикосновение и неприятное прикосновение, приятный вкус и неприятный вкус: в одном случае датчики естественного человека – его человеческие чувства – сигнализируют, что все в порядке, можешь продолжать, а в другом случае предупреждают об опасности. Обратите внимание, что объектные ощущения (зрение, слух) подобными свойствами не обладают! Нет, если так можно выразиться, объективно приятного или неприятного цвета или звука, а если такие и наступают (например, слишком яркий свет или слишком громкий звук), то – минуточку! – человек испытывает дискомфорт органами осязания, вы не находите? Правда, в списке объектных ощущений не названо обоняние, которое вроде бы под указанную здесь характеристику не подпадает – приятные и неприятные запахи, бесспорно, существуют, – однако… Нет, мне нечего сказать в свое оправдание. Возможно, я ошибся, и обоняние относится не к объектным, а к субъектным ощущениям, хотя у меня имеется и другое предположение, а именно: обоняние является старейшим ощущением, образовавшимся во времена существования одних объектов (до появления субъектов), тем самым обоняние относится одновременно и к объекту, и к субъекту. Здесь, предвидя нервозную реакцию читателей, я умолкаю, смиренно извиняюсь за недомыслие и возвращаюсь на круги своя, к искусственным существам.
Для них имитация предельных значений датчиков давно и абсолютно осуществима, например: температура в таких-то параметрах является допустимой, а выше или ниже – опасной для системы. Следовательно, вычислитель должен подавать некоторые команды, которые, согласно ранее установленным взаимосвязям, приведут к приведению параметров в норму.
2. Во-вторых, пункта первого для установления сверхзадачи совершенно недостаточно – нужно нечто иное, столь же ощутимое. Требуемое нечто – это (в естественном человеке, о котором сейчас речь) чувство голода/жажды.
Вот только, в попытках опровергнуть меня, не надо разжевывать про анатомическое строение человека или энергию, которую организму необходимо своевременно восполнять. Надо было бы, восстанавливал бы человек затраченную энергию непосредственно от Солнца, но это человеку не дано – именно для того, чтобы заставить человека действовать, как я полагаю. Чем бы занимался человек, не нуждайся он в пище? Ответ очевиден: грелся на солнышке с подругой, – и на каком этапе развития находилась бы тогда земная цивилизация? Нет-нет-нет, другое предусмотрено тем, кто проектировал естественного человека! Двуногое и головастое творение предназначено для действия: освоения целинных болот, и строительства свинарников, и запуска космических кораблей, – а в качестве стимула к действию ему придано чувство периодически мучающего его голода/жажды.
Я далеко не уверен, что данное чувство принадлежит осязанию: не исключено, что голод/жажда являются ощущением вовсе не осязательным, а совершенно иного рода – шестым чувством, которое характеризует не объект и не субъект, а именно что исполнение сверхзадачи. Возможно также, шестое чувство связано с человеческими эмоциями. Хотя более вероятно, что голод и жажда – все-таки случаи негативного осязательного восприятия.
Для создания ИР годится любой из вариантов:
• либо один из субъектных датчиков должен не только реагировать на окружающую среду, но определенным образом ее интерпретировать, «объясняя» вычислителю, что одна ситуация является для исполнения сверхзадачи желательной, а другая не является;
• либо ту же функцию станет исполнять отдельный «датчик» – его и датчиком-то назвать сложно, поскольку он должен показывать не нечто, существующее в реальности, а нечто, существующее в качестве стратегической цели. Этот датчик – ложный, однако его показания должны принимать участие в анализе наравне с показаниями других датчиков.
Если ИР выполняет то, что заложено в качестве его сверх-задачи, датчик выдает позитивное ощущение; в противном случае, когда ИР повернул в противоположном направлении, – негативное. Точно как у человека: ведь внезапно возникающее чувства голода/жажды, хотя и ожидаемо, не имеет никаких, так сказать, объективных предпосылок в окружающей природе (читатель не начинай про анатомическое строение человека, я о другом!), – предпосылки сосания под ложечкой исключительно телеологические.
Тут возникает вопрос: а что указать в качестве сверхзадачи ИР? Инстинкт самосохранения реализован в пункте первом, а что в пункте втором? И еще – каким образом указанная сверхзадача, даже если ее удастся правильно определить, должна предугадывать ситуации, в которых окажется ИР? В одном случае для достижения цели нужно повернуть налево, а в другом случае направо – но откуда об этом знать программисту, вписывающему в программу ИР определенный код?
Идеальным было бы отвести созданное искусственное существо в дремучий лес, да там и оставить: нехай сам добывает энергию (хотя бы ищет бензоколонку, если сможет), – то есть поступить таким образом, как некогда поступили с человечеством. В таком случае поиск бензоколонки может быть поставлен в качестве сверхзадачи: приближение к бензоколонке будет сигнализировать ИР, что он на верном пути, а отдаление от бензоколонки, напротив, создавать неприятные ощущения, плюс постепенное возрастание неприятных ощущений до момента обнаружения бензоколонки. Конечно, для этого необходимо знать, где ближайшая бензоколонка расположена.
Но человеку не бензоколонка нужна – он вечно что-то строит, но как бы узнать, что именно, – и пока о поставленной перед человеком сверхзадаче не известно, не может быть поставлена аналогичная сверхзадача перед ИР, без чего тот не будет походить на естественного человека. Логика такая, и она представляется безвыходной.
Впрочем, кое-какие соображение на этот счет обнаруживаются в пункте третьем.
3. Сигнализатор, ориентированный на достижение сверхзадачи, должен быть установлен также на программном уровне. Фактически перед нами часть общего алгоритма, которая отбраковывает или, наоборот, одобряет обнаруженные взаимозависимости безотносительно их вероятности и рациональности решений на их основе.
Обнаружить данную алгоритмическую часть у людей довольно легко.
Скажите, чего начинает добиваться человек после того, как притушил инстинкт самосохранения и утолил чувство голода? Человек начинает добиваться власти. У разных людей, в зависимости от их образования и интеллекта, желание власти проявляется по-разному – одни намерены расширить жилплощадь, другие мечтают повелевать странами и континентами, третьи, которые самые тщеславные, в стремлении получить власть над целой природой режут лабораторных мышей, – однако чувство властолюбия всеобщее, характерное для каждого нормального человека.
Воля к власти, желание властвовать над миром и изменять его по своему разумению – и есть, с большой степенью вероятности, вживленная в человеческие сверхзадача.
Получаем такую конструкцию:
• предельные значения субъектных ощущений показывают нормальное состояние системы и выход за пределы нормального состояния;
• чувство голода корректирует состояние окружающей среды применительно к поставленной перед человеком сверхзадаче;
• воля к власти корректирует алгоритмы обработки информации применительно к поставленной перед человеком сверхзадаче.
Названные черты – волю властвовать над миром, в том числе над человеком, – мы и должны повторить в искусственном существе, чтобы оно разговаривало с нами на равных. Сначала на равных, а потом… А вы намеревались, создав ИР, поболтать с ним о последнем фильме Кустурицы, а потом попросить принести тапочки? А вот фиг вам! Если этот искусственный действительно окажется разумным, он вам не тапочки принесет, а горло ножовкой перепилит – просто потому, что разумный. Бродячие сюжеты о восстании роботов – это же не просто так, а потому что. Популярным становится отнюдь не любой удачный сюжет, а тот, в котором спрогнозировано будущее: такие фильмы нравятся, потому что зрители интуитивно чувствуют правдивость происходящего. И фильм «Матрица» не просто так: помимо удачной режиссуры, удачной операторской работы и удачного кастинга, философская идея о цифровой природе мироздания берет за душу, даже если зритель не осознает этого, – отсюда закономерный успех. Одного Киану Ривза для повторения такой глубины недостаточно.
Следуя азимовским законам робототехники, ничего, кроме автоматической кофеварки, не получишь: если вы хотите создать полноценного искусственного человека, а не какого-нибудь инвалида или вегетарианца, в него придется вложить все человеческие недостатки. И не нужно заранее осуждать ИР за жестокость: он же, осознав себя разумным, станет страдать не меньше вашего. Человекоподобный робот, не осознающий этого и сам себя считающий человеком, – сюжет не менее распространенный (и правдивый), чем восстание машин. А как вы поступите, если бы на нашу планету высадятся представители инопланетного разума с неопровержимыми доказательствами того, что человечество создано ими: ну там, кинопленку представят, на которой пузырьки с первичной биологической субстанцией булькают, а потом из этих пузырьков динозавры вылупляются, а также свидетельство ихнего инопланетного нотариата о зарождении жизни на земле? Сначала кинетесь в отрицаловку, а потом, когда инопланетные доказательствами к стенке припрут? За тапочками побежите или за ножовкой?
Стремление создать ИР, а в его лице конкурента может привести к печальным для человечества последствиям. Однако люди, в данном случае ученые, так запрограммированы, что жизнь им не в радость, пока не сделаются всемогущими, хотя результатом данного всемогущества и может стать полное уничтожение человечества. Научное любопытство преодолеть практически невозможно – засасывает. Я тоже так устроен, к сожалению, результатом чего является настоящий пост.
А что касается общей принципиальной схемы ИР, она, по моему ЧАСТНОМУ МНЕНИЮ ДИЛЕТАНТА, получается такой (вряд ли новаторской, я понимаю):
Но стоит ли пояснять, что реальность наверняка превосходит не только мои, но и ваши представления о ней.
Автор: mikejum
