Чем не является интеллект? Ошибки пытающихся создать ИИ с точки зрения философии (материалистической)

Частенько бывает такая ситуация, когда программист ругает менеджера из-за рабочего конфликта. Суть критики сводится к тому что менеджер вообще не понимает как устроена “реальная реальность” и пытается везде выехать на “софт-скилах”. Занимается “нетворкингом” вместо изучения чего то хотя бы на начальном уровне, в общем балабольствует и манипулирует понятиями и шаблонами оторванными от реального понимания действительности. А потом этот же программист, в своё свободное время, мечтая о собственном успешном стартапе, пытается создать ИИ общего назначения на основе языковой модели, загружает в обучающий набор данных гигабайты текстов и картинок, ожидая при этом практичного рассудочного мышления от создаваемой нейросети.

И дело даже не в ограниченности современных виртуальных нейросетей. А в том что этот программист сам того не осознавая, основывает свою работу на внушенных ему ложных идеях. Он может критиковать менеджера в частном вопросе и даже делать из этого ограниченные общие выводы, но применить эти выводы к своей деятельности на практике не может. Не понимает что даже в идеальном случае, с этим подходом он сможет лишь создать имитацию того самого менеджера, которая ничего не знает о реальном мире, но жонглирует словами и символами для достижения целевых показателей, не понимая что в реальности стоит за ними. Этот программист заведомо проиграл тому менеджеру, ибо приняв его философскую позицию, обрёк свою работу и её результаты, даже в случае успеха, на торжество идей и образа мышления того самого менеджера.

Предисловие и предупреждения

В последнее время я заметил на Хабре много статей, затрагивающих философские вопросы, но сводящих всё в итоге к различным сортам идеализма. Достаточно поискать по запросу “многомировая интерпретация” и вы увидите множество примеров. В этой статье, не буду последовательно использовать терминологию и дискурс диалектического материализма. Так как те кто знают марксизм - не нуждаются в этой статье, а те кто не знают марксизм - не владеют его терминологией. Например в определении “Свобода - это осознанная необходимость”, для марксиста и позитивиста, различается значение каждого существительного и следовательно полностью различается понимание определения. (Ссылка для тех кому интересен этот конкретный вопрос.) Поэтому постараюсь использовать дискурс понятный айтишникам и доступный для позитивистов, но с минимальными искажениями смысла. Надеюсь получится.

Становление нервных систем

Любое явление для понимания его сущности, следует рассматривать в становлении, то есть изучать историю возникновения (диалектика). Для чего вообще нужен ум? Для чего вообще нужна нервная система? От какой необходимости они возникли?

Простой адаптивностью поведения обладают даже одноклеточные, плывут в сторону нужных условий и уплывают от плохих. Это простые химические автоматизмы. Многоклеточные же организмы, тоже начинали с химической сигнализации, используя её для регуляции тонуса сокращающихся клеток (мышц), чтобы напрячь мышечный мешок или расслабить. Это вполне соответствует задаче закрытия внутренней полости при захвате добычи. Для сидячего организма, может показаться что он никуда не движется. Однако практически всё движется во времени, и даже если оно само не движется, то вокруг него что то скорее всего движется. Так что подобную деятельность можно интерпретировать как маневрирование во временном потоке и даже свести к этому.

От химической сигнализации до электрической (ионной) недалеко, это всего лишь метод ускорения распространения сигнала в организме. Предположительно, ранние сократительные клетки, подобно современным клеткам сердечной мышцы, обладали помимо способности к сокращению, ещё и функцией ретрансляции сигнала к соседним клеткам. Конечно потом мышечные и нервные клетки функционально разделились.

У хищных и свободно движущихся организмов, появилась настоящая потребность в координации мышечных сокращений. Ведь в конечном счёте, практически вся деятельность нервной системы сводится к управлению мышцами. Да и управление железами, тоже является средством общего контроля активности. И опять же, это нужно для прокладывания курса во времени. В этом и заключена суть психологической стрелы времени, нервная система - это инструмент для навигации во времени с целью сохранения и продолжения жизни. Это основа от которой не то чтобы не уйти, а непонятно как вообще уйти. Непонятно потому что, “понималка” не может работать вне представлений о будущем, вне своей функции навигации во времени, вне своей функции моделирования будущего.

Становление ума

Ум развивался с целью моделирования взаимодействий в которых участвует организм. Мы очень гордимся тем что когда то наш головной мозг сильно вырос. Но в те времена гонка мозгов была общей тенденцией для многих животных. И предки нашего вида не смогли войти во многие экологические ниши, потому что они уже были заняты. Например в саваннах прекрасно себя чувствовали гигантские павианы. Сложно с ним конкурировать напрямую. Не оставалось ничего кроме как выращивать мозги, заниматься орудийной деятельностью и растить мозги чтобы лучше заниматься орудийной деятельностью. Ну и ещё развивать седловидный сустав большого пальца, чтобы лучше заниматься орудийной деятельностью. Подобно тому как белка является запасающим животным, человек является трудящимся животным.

Как мы измеряем ум?

Почему мы считаем осьминогов, приматов, слонов и собак умными? А про лис говорим что они не умные, а хитрые? Почему согласно нашим измерениям, не понятно кто однозначно умнее, ворон или дельфин?

Если говорить о взаимодействиях в которых участвует организм, менее абстрактно, более конкретно. То их можно разделить на типы:

Мы измеряем интеллект по способности к объект-объектному мышлению. Каждый из этих видов мышления, развился из других, даже из их комбинаций. Например человеческое "объект-объектное" мышление, развилось из "субъект-объектного", которое развилось по большей части из сложного "субъект-субъектного", обусловленного социальностью.

Почему по нашим методам измерения осьминог умный? У него очень пластичное тело, способное принимать различные формы. Механизмы мышления которые у него используются для моделирования взаимодействий “я-среда” и “я-объект”, настолько сложны и гибки, что подходят для взаимодействий “объект-объект”.

Насчёт всяких приматов. Нам обычно интересно, что разделяет нас и их. Например, у одной популяции обезьян, наблюдали относительно сложную деятельность. Обезьяна удерживала ногами один камень, клала на него орех и разбивала другим камнем. Но не все обезьяны в той популяции могли освоить этот метод. Многие пытались, но забывали удерживать другой камень ногами или неверно выбирали камни или тупили над последовательностью действий. То есть в восприятии обезьян, это действие является сложным ритуалом. А для нас оно довольно простое, мы можем легко удержать это всё в уме и даже понимать назначение каждого из действий.

Почему слоны умные? Потому что у них гибкий хобот со множеством мышц, применяемый для множества целей. Почему медведи умные? Потому что у них много разнообразных источников пищи, к каждому из которых нужен свой подход. Почему лисы хитрые, но не столь умные как волки или даже собаки? Потому что их ум ограничивается набором индивидуальных приёмов взаимодействия (хитростей), со средой, с субъектами и объектами.

Рассудочное мышление

Когда то, бытовало предубеждение о том что для машин характерна “холодная алгоритмическая логика”, а интуитивное мышление недоступно для машины. Был даже анекдот что опытный врач быстрее машины диагностирует сифилис, увидев признаки “низкой социальной ответственности”. Однако что мы видим сегодня? Машинное обучение воспроизводит всевозможные характерные для “дремучих” людей предрассудки вроде расизма и сексизма. Вроде машина находит корреляцию между цветом кожи соискателя и неприятностями для нанимателя, между цветом волос и вероятностью ДТП. Но нас не устраивают подобные результаты, потому что машина не отличает корреляции от зависимостей. То есть реализует то самое наивное интуитивное мышление. Рассудочная же деятельность остаётся столь же практически далёкой для машины, как и во времена изобретения перцептрона.

Для рассудочного мышления, нужна практика, то самое выстраивание траектории существования во времени. Даже такой инструмент нашего мышления как аналогия, нуждается в примере знакомом на практике. Вне связи с какой либо практикой возможна разве что абстрактная математическая модель оторванная от реальности, аналогия же недоступна.

Помимо аналогии, важной частью рассудочного мышления, является абстрагирование. А конкретно способность размышлять от частного к общему и от общего к частному, индукция и дедукция.

Как выглядят индукция и дедукция с точки зрения психологической стрелы времени?

Что такое абстракция? Это аналогия оторванная от частностей, от подробностей незначимых в определённом контексте. Абстракция позволяет сформировать в модели огромную простую заглушку, и уже вместе с этой заглушкой удержать в уме что то другое, что не вместилось бы, если вместо заглушки был бы полный набор информации со всеми подробностями. Это аналогично жадным (быстрым) алгоритмам. То есть мы намечаем во времени траекторию жадным методом, а после отдельные её отрезки намечаем точными методами. И ещё в зависимости от того что получаем точными методами, можем пересчитать жадную траекторию с другими данными.

Занимаются ли этим существующие искусственные идиоты, когда и реальные часто с этим не справляются? Например полностью подменяя жадным путём точный (позволяет сэкономить много калорий мозгом, наверно). Или напротив зацикливаясь на нюансах без возможности абстрагирования. Я смотрел на матчи в starcraft 2 с участием AlphaStar и увидел что этот бот, просто копирует статистически успешные действия. Он способен переключаться между тактиками, но он не намечает курс в будущее, не формирует его абстрактной модели, а просто выполняет шаблонные действия, пусть и шаблоны получены автоматическим анализом. По сути он просто делает лучший ход с точки зрения текущего момента. Человек например может, либо точно подсчитав, либо интуитивно заметив определённую разницу в динамике расхода ресурсов, понять что определённые тактики экономически становятся невозможными. В принципе, ИИ можно вручную научить считать чужие минералы. Но это уже готовое знание, а не то которому ИИ обучился сам. Впрочем это частный пример и мне самому не нравится своя риторика в нём. В общем абстрагирование, позволяет упростив модель, отбросив от неё несущественное, разместить в уме гораздо больше.

Абстрактное мышление сильно завязано на языке, абстрактные категории должны быть сформулированы чтобы их возможно было применять. А язык - это явление общественное. Поэтому и человеческое сознание, тоже является общественным явлением. Впрочем, не буду дальше идти в рамках этой статьи, в глубь трансцендентальных вопросов коллективного разума цивилизации.

Критикуешь - предлагай

Многие читатели наверняка ответят, критикуя меня за то что я “толкаю им свою идеологию и философию” вместо того чтобы написать самому искусственного идиота в качестве примера. Понимаю “технарей” кои привыкли что люди не разбирающиеся лезут со своими сверх-ценными идеями и указами. Однако независимо от твоего отношения к философии, философия занимается тобой - всегда. Современные методы обучения искусственных идиотов, не нацелены на создание систем способных к универсальному “объект-объектному” моделированию. А намерены перепрыгнуть его, поэтому данный подход тупиковый.

Поэтому “чтобы было”, предложу своё пока ещё смутное видение правильного подхода. Смутное от того, что оно не опирается на практику чего либо в этой теме.

Что необходимо для ИИ с типа рассудком?

Сейчас не сказать каков полный список того что необходимо искусственному идиоту, чтобы догнать реального в продуктивной деятельности, в практике, но уже можно сказать без чего это наверняка сделать не получится.

Нужна модель, в которой время понимается как ещё одно измерение, аналогично пространственному. Которое к может произвольно разбиваться на отрезки, в которых применяется как детальное моделирование, так и общее. В котором для каждого субъекта или объекта определяется пространство возможностей. Самый примитивный пример из игрового моделирования, это определение скорости агентов позволяющей очертить зону в которой они могут присутствовать через определённое время и вероятностный анализ определения возможной траектории по другим субъектам и объектам, в том числе с рекурсивным анализом (поставить себя на место другого субъекта). Что приведёт к формированию чего то вроде “тепловой карты” в пространстве-времени.

Для того чтобы не заниматься подробной симуляции реальности понадобится закрыть некоторые её части блоками-заглушками. Сформировать абстрактные понятия, для использования их в роли этих самых заглушек. Как это сделать? Вопрос ещё более неясный. Для этого ИИ опять же должен заниматься практикой и накопить на её основе очень хорошую интуитивную модель. На которую будет пытаться перебором натягивать конечное количество математических функций, дабы получить максимальное приближение графика идеальной математической функции к нейронной (интуитивной). Если воспринимать математику как язык, то она уже содержит достаточно абстрактные понятия. Таким образом создаваемые ИИ абстрактные понятия, могли бы быть результатом наложения математических функций друг на друга с подбором коэффициентов. Или же математической функцией создаваемой перебором по шаблонам формул и коэффициентов, с постепенным уменьшением шага перебора.

Поскольку мы оцениваем интеллект в рамках парадигмы “объект-объектных” взаимодействий, то и легче всего, будет развивать искусственный интеллект в рамках орудийной деятельности, в рамках задач взаимодействия объектами. В ином случае мы можем упустить хорошие результаты, так как просто не опознаем их. Или же опознать их будет так же сложно как интеллект китов или дельфинов. Гипотетический хитрый ИИ сможет долго обманывать человека в чате, но “посыпется” на каком ни будь практическом вопросе, что сделает его подобным тому самому менеджеру с “мягкими навыками”.

Выводы

Лучше если вы сами сделаете выводы, но я конечно навяжу свои. Для начала нужно чётко разделить типы ума (интеллекта) и точно решить, какой тип интеллекта создаётся и для чего. Например сомнительно что субъект-субъектный подойдёт для сортировки мусора или оптимизации обтачивания камня произвольной формы. Для этого лучше подойдёт тип “я и объект”. Конечно “объект-объектный” тип и является неким универсальным, но становится ясно, что необходим он не для биржевой торговли или управления персоналом, а для промышленности, для непосредственного выполнения действий в условиях не унифицированной среды. Полагаю многие задачи возлагаемые в нынешнем видении будущего сейчас на ИИ, можно было бы решить унифицировав производственную среду. Например дорожное движение можно было бы автоматизировать и без сложных ИИ, просто собрав единую базу дорожной разметки, вмонтировав в дорожное полотно магнитные указатели полос и снабдив всю человеческую одежду и прочее проявляющееся на дорогах, инфракрасными отражающими метками. Это условный пример, знаю что найдётся множество возражений в нюансах. Но в общем многие задачи можно решить как сложной автономной технологией, так и простой инфраструктурной. ИИ, относится к сложным автономным технологиям. Определив тем самым эксклюзивные для ИИ роды деятельности, можно заметить что это в основном “вкалывание”, то есть работа в плохо организованном бардаке без отдыха. И как ни странно, это медицина. Ведь мы бы действительно хотели, что бы врача всегда мог подменить робот-хирург. Сами врачи это хотели бы. Тем более что основная мотивация профессий типа врачей, учителей и солдат - не деньги. Сбор объектов и сложный ремонт (техники и человека) - такими выглядят те области, в которых ИИ действительно нужен, будет наиболее востребован и встретит наименьшее сопротивление.

Примечание

Для своих выводов и размышлений я использовал статьи с Хабра, лекции Станислава Дробышевского, видео с канала “упоротого палеонтолога” и множество других источников (типа давно прочитанных учебников). Аналогично тому как критерий фальсифицируемости применяют на бытовом уровне для отсеивания антинаучных заявлений, также и на бытовом уровне, формальную логику можно сделать диалектической если добавить в неё ещё одно правило - “Без надлежащих оснований, никакое ИЛИ не является исключающим.” Пользуйтесь этим. Я намеренно избегал марксистского дискурса по обозначенным выше причинам несовпадения формалистических и диалектических понятий. А ещё и для того, чтобы у многих читателей не включались триггеры безусловного отвержения, заменяющие им критическое мышление. Ибо всё таки тема политизированная и никак материалистическую диалектику не избавить от очевидных выводов о необходимости коренного переустройства общества. Разумеется эту статью нельзя использовать как полностью корректный пример диалектического мышления. Это попытка объяснить позитивистам в рамках понятного им дискурса, то как задача создания ИИ выглядит с точки зрения другой философской позиции.