В статье рассматривается интеллект и его конечные цели, при этом затрагиваются тезисы об ортогональности и конвергенции. В предыдущей моей статье 'Жизнь, Интеллект, Психика, Разум' вопрос не был достаточно прояснен. В той статье был декларирован принцип: сильный интеллект следует строить, как адаптирующуюся систему на основе конечной цели: сохранение-выживание живого организма — носителя интеллекта. И приведена общая структурная схема организма с интеллектом, возможно сильным. Ниже производится дополнительный анализ, почему это так.
Замечание по поводу терминологии.
В качестве сильного интеллекта, будем иметь в виду общепринятое его понимание. Слабым интеллектом будем называть любую систему или алгоритм, который не реализует сильный интеллект. Общее название для обоих — просто интеллект, не будем делать различий между искусственным и естественным интеллектом.
Тезис об ортогональности цели и интеллекта.
Тезис об ортогональности гласит, что можно комбинировать любой уровень интеллекта с любой целью, поскольку интеллект и конечные цели представляют собой ортогональные, то есть независимые, переменные.
Адаптивное поведение
Покажем возможно очевидный, но важный факт: адаптивное поведение невозможно без цели. Рассмотрим любые алгоритмы с адаптационными свойствами, в том числе, системы сильного интеллекта, потому как, в силу общности, нет причин их исключать.
Адаптацию можно рассматривать, как:
- 1) изменение скалярных величин — параметров алгоритма
- 2) изменение управляющих конструкций
Для нейронных сетей используется 1-й способ — настройка весов связей. Веса настраиваются в процессе обучения, учитель выступает внешним фактором, который производит адаптацию сети — зачем только ему известно, можно сказать выступает мотивирующим процессом. Способ 2-й может осуществлять программист, мотивационные причины программиста, также известны только ему.
Другой способ адаптации можно реализовать, как оптимизационный процесс для целевых значений. Реализация подобных оптимизационных процессов может быть достаточно несложной. Обучение нейронной сети с подкреплением — хороший пример: прозрачный алгоритм корректирует веса сети для целевого поведения. Методика адаптации для целевого поведения см. ИИ от Google самостоятельно освоил 49 старых игр Atari.
И вот соответственно структура самообучаемых или адаптивных систем:
Эта схема верна для любых адаптивных систем, в том числе и сильного интеллекта. Введены два понятия: адаптационная и мотивирующая компонента интеллекта. Мотивирующая компонента реализована соответственно конечной цели. Мотивирующая компонента не модифицируется (не адаптируется) — она задана жёстко.
Как ввести конечную цель в систему?
Зададимся вопросом — как практически реализовать оптимизацию для достижения цели. Если адаптационная компонента предполагается несложной и сигнальная сложность входов, выходов проста, то мотивирующая компонента также проста и её реализация прозрачна.
Опять обратимся к играм Atari — для данной сложности сигналов сенсорной и исполнительной информации и поставленной цели разработчикам удалось эффективно сформировать мотивирующую компоненту, которая реализует обучение сети подкреплением. Интуитивно понятно, что сама задача и не стоит сильного интеллекта! И речи о сильном интеллекте в случае игр Atari не идёт.
Оправданно напрашивается: на системах какого уровня возможно говорить о сильном интеллекте? Понятно предположение, что сильный интеллект потенциально возможен в случае, если сложность и разнообразие сенсорной (входной) и исполнительной (выходной) информации в смысле семантики и уровней понятий превышает некоторый критический порог. Сомнительно, что можно ограничится тем, что какой-то простой способ интеграции входной информации будет формировать небольшой набор сигналов подкрепления.
Скорее всего для мотивации сильного интеллекта, должна быть сформирована сложная и комплексная мотивирующая компонента, которая может включать множество условий и шаблонов реакций. Скорее всего она будет многоуровневая в смысле представлений входной информации — распознаваемый простые шаблоны и реакции (назовём их базовыми или безусловными рефлексами) из них складываются в распознаваемые объекты более высокого порядка и реагирующего поведения (назовём их ритуалами). В биологическом варианте мотивирующая компонента, формировалась генетическими алгоритмами в ходе эволюции.
Заметим, что для мотивирующей компоненты можно утверждать, что отдельно рассмотренная, она не может являться сильным интеллектом, так как задана жёстко.
Развёрнутая схема для системы с потенциально возможным сильным интеллектом: (безусловные рефлексы и ритуалы образуют мотивирующую компоненту)
Для живых организмов в мотивирующую компоненту закладывается в качестве цели концепция сохранения. Между тем, принципиально, в мотивирующую компоненту можно закладывать другие цели (тезис ортогональности). Важно, что цель обязана иметь место для адаптационного процесса.
Какие конечные цели важны?
При всём многообразии целей, можно определённо утверждать, для работы с более-менее нетривиальной целью требуется более-менее продолжительный период, и поэтому возникает необходимость в промежуточной цели — обеспечить свои сохранность и безопасность. И это согласуется с тезисом об конвергенции.
Тезис об инструментальной конвергенции гласит, что сверхразумные действующие силы, или агенты, — при самом широком разнообразии своих конечных целей — тем не менее будут преследовать сходные промежуточные цели, поскольку на это у всех агентов будут одинаковые инструментальные причины.
Возьмём общеизвестные три закона робототехники: и среди них присутствует закон о целевой безопасности робота. А в соответствии с определением жизни (см. статью 'Жизнь, Интеллект, Психика, Разум') такое целевое поведение можно считать признаком живого организма.
Таким образом, любая система интеллекта с любой более-менее нетривиальной целью, должна быть прежде всего живой, в том числе носитель сильного интеллекта.
В ходе биологической эволюции сильный интеллект человека, сформировался только под цели выживания. Если предположить, что удастся реализовать искусственного носителя сильного интеллекта, будет ли гуманным, что помимо цели выживания-сохранения в него будет заложена, некая дополнительная цель? Интересно, будь вы на его месте, как личность(!), вам бы это понравилось?
Заключение.
Сильный интеллект потенциально можно реализовать на основе цели — сохранение живого организма, при условии преодоления критического порога сложности сенсорной и исполнительной информации.
Автор: vadimmikhonov
