Концепция мыслящих машин лежит в основе несметного числа фантастических книг и фильмов. Даже в более-менее серьёзных футуристических прогнозах время от времени исходят из предположения, что мы создадим не просто искусственную жизнь, но искусственное сознание. И эта перспектива завораживает. Разумеется, в своих мечтах о мыслящих машинах мы априори считаем, что их будет построено по образу нашего. С определёнными отличиями вроде не отягощённости потребностями тела, эмоциями и прочими затруднениями, связанными с биологическим бытием. Но если вдуматься, то никто не гарантирует того, что машины будут думать, как мы.
А задавались ли вы когда-нибудь вопросом, что имеется в виду под словом «думать»? Да, на интуитивном уровне мы можем осознать своё собственное , человеческое, но что насчёт животных? Думают ли шимпанзе? А вороны? Осьминог?
Допустим, инопланетные разумные формы жизни существуют. Вполне вероятно, что их разум будет настолько сильно отличаться от нашего, что мы даже не сможем осознать их разумность. Кто знает, может быть, инопланетяне уже были где-то поблизости, но из-за фундаментальных различий разума даже не заметили нас. А мы — их.
Безусловно, животные обладают когнитивными способностями, отличными от наших, нацеленными на использование инструментов, понимание причинно-следственных связей, коммуникацию с другими существами, и даже на осознание целенаправленного у других. Вероятно, к «мышлению» нужно отнести все эти задачи. Представим, что нам удалось создать машину, обладающую всеми перечисленными возможностями, то есть, по нашему мнению — думающую. Тогда нам останется только похвалить себя и лечь на диван с чувством выполненного долга. Но сможет ли машина встать на ступень выше, сможет ли она думать как человек? И если сможет, то как нам об этом узнать? Ориентироваться на одно лишь поведение компьютера было бы ошибкой. Если он будет действовать так, словно умеет думать, то это ещё не будет означать, что всё так и есть. Может быть, это будет искусной имитацией, разновидностью философского зомби.
В своё время этот вопрос — как распознать разумность машины — подвигла Алана Тьюринга на создание его знаменитого теста, в течение которого компьютер взаимодействует с человеком посредством текста на экране, и должен в большинстве случаев убедить живого собеседника, что он тоже является человеком. Для Тьюринга всё сводилось именно к поведению машины, а не ко «внутренней цифровой жизни».
Однако для кого-то эта внутренняя жизнь всё же важна. Знаменитый философ Томас Нагель в своей статье «Каково быть летучей мышью?» высказал точку зрения, сознание не отождествляется с . Есть «что-то, чему нравится» получать сознательные переживания, опыт. То есть в нас есть нечто, чему нравится смотреть на красивые объекты, или заниматься каким-то делом. Человек — это нечто большее, чем набор состояний его .
Но тогда можно задаться вопросом: а может ли существовать «что-то, чему нравится» быть думающей машиной? Допустим, нам когда-нибудь нам удастся создать разумный компьютер. И если при проведении теста Тьюринга человек спросит: «Есть ли у тебя сознание?», то в ответ может получить: «Как бы я об этом узнал?».
Вычисления — и больше ничего?
Согласно современным представлениям, в основе компьютерного должны лежать исключительно вычисления: количество операций в секунду и логических переходов. Но мы не уверены, что — или сознание — есть производная от вычислительной мощности. По крайне мере, в условиях использования двоичных компьютеров. Может ли являться чем-то большим, чем набор алгоритмов? Что ещё нам нужно? А если всё дело лишь в вычислениях, то почему человеческий не слишком-то в этом и силён? Ведь большинство из нас сталкиваются с затруднениями, когда нужно перемножить в уме пару двузначных чисел, не говоря уже о более сложных задачах. Или в нашем подсознании осуществляется какая-то глубокая обработка данных, что в конце концов выражается в ограничении наших сознательных вычислительных возможностей (аргумент в пользу так называемого «сильного ИИ»)?
По сравнению с компьютерами, наши способности по манипулированию необработанными данными никуда не годятся. Зато компьютерам очень плохо даются такие вещи, как языки, поэзия, распознавание голоса, интерпретирование сложных поведенческих шаблонов и формирование всеобъемлющих суждений.
Если способности компьютеров столь отличаются от наших, то как можно ожидать, что в конце концов они смогут думать как мы? Быть может, в будущем компьютеры обретут все черты человеческого в обмен на ухудшение способностей к арифметическим вычислениям?
О вере, сомнении и ценности
Если компьютеры действительно начнут думать как человек, то их разуму также будут свойственны понятия вроде «веры» и «сомнения». А что может означать для компьютера «вера во что-то»? Конечно, если не считать такой тривиальной ситуации, как действие без учёта вероятности ошибки? Сможет ли когда-нибудь произойти так, что компьютер искренне засомневается, но пересилит своё сомнение и всё равно продолжит действовать?
Для человеческого разума огромное значение имеет понятие «ценность». Его можно считать одним из основополагающих, движущих факторов. О чём мы думаем в тот или иной момент времени, и почему мы об этом думаем? Сможет ли компьютерный разум придавать ценность хоть чему-либо? И если да, то чему?
Было бы замечательно, если бы смогли создать компьютер, разделяющий систему человеческих ценностей. Но мы, вообще-то, сама не можем с уверенностью сказать, что это такое, а уж тем более как запрограммировать эту систему. К тому же, если компьютеры смогут программировать сами себя, то им может придти в голову, что ценности можно поменять.
Учитывая, сколько сил и ресурсов тратится на создание искусственного интеллекта, сейчас самое время попытаться понять, каким мы хотим видеть мыслящий компьютер. А для этого, возможно, нам нужно сначала постараться понять самих себя.
Автор: ASUS Russia
