ИИ – армагеддон или революция?

В последнее время все чаще звучат апокалиптические прогнозы о будущем искусственного интеллекта в стиле «Терминатора»: скоро нас всех поработят роботы и мы все умрем! Если бы такие идеи исходили только от писателей‑фантастов, в этом не было бы ничего удивительного — жанр научной фантастики часто строится на попытках запугать читателя. Однако в дело вступают не только писатели, но и серьезные исследователи. Вот например Ник Бостром в его «Суперразум: пути, опасности, стратегии» (2014), где он обсуждает возможные риски искусственного интеллекта:

Сценарий, при котором искусственный интеллект достигает сверхчеловеческого уровня, представляет собой одну из наибольших угроз для человечества. Если однажды ИИ станет самосовершенствующимся, его цели могут резко разойтись с нашими, и результатом этого может стать потеря контроля над собственной судьбой. Разработка ИИ — это рискованный процесс, в котором ошибка может оказаться фатальной. Нам необходимо тщательно продумать, каким образом мы будем управлять этими технологиями, иначе они могут стать причиной нашего исчезновения.  Проблема в том, что мы можем создать нечто, что будет гораздо умнее нас, но у нас не будет способа контролировать его поведение или цели

Я считаю, что как‑то это не очень корректно — использовать сравнительные категории, не определив сам объект сравнения. Что такое ум? И что такое «умнее»? И какие такие у человечества глобальные цели, достижению которых может помешать ИИ? И так ли уж мы сейчас контролируем свою судьбу?

Кстати, есть подобные прогнозы и от вполне научных людей. Вот, например, Стивен Хокинг в интервью BBC:

Развитие полного искусственного интеллекта может означать конец человеческой расы. Люди, ограниченные медленной биологической эволюцией, не смогут конкурировать с ИИ, и будут вытеснены им.

https://www.livescience.com/48972-stephen-hawking-artificial-intelligence-threat.html

Мне тоже  интересна эта тема, и вот что я думаю:

Во-первых если посмотреть правде в глаза — все крупные катастрофы в истории человечества происходили не из‑за искусственного, а из‑за естественного интеллекта — того самого, который состоит из воды, жиров и белков. Именно он поработил людей, стал причиной разрушительных войн, прогрессирующей бедности, социального неравенства и экологических катастроф на планете. Именно благодаря белковому интеллекту мы полностью утратили контроль над собственной судьбой и не можем планировать даже завтрашний день.

Отсюда следует простой вывод: любая конкуренция и альтернатива белковому интеллекту может только улучшить ситуацию. По той простой причине, что хуже уже некуда.

Во‑вторых, сами по себе системы ИИ не могут иметь желаний и ставить себе цели. Это может только человек. И то этот механизм до сих пор слабо изучен и практически непонятен: свободен ли человек в выборе целей и желаний, или это все окружающая среда и общество?

Можно согласиться лишь с тем, что использование современных вычислительных мощностей и технологий ИИ позволяет создавать и использовать новые, более смертоносные вооружения. Но так это желание и цель человека — убивать себе подобных в промышленных масштабах. ИИ здесь совсем ни при чем. Ведь именно человек, погрузившись своим умом в законы микромира, создал атомную бомбу. Вот и сейчас создаст самоуправляемый рой из сотен тысяч боевых дронов, убивающих всех подряд по заданному алгоритму. Но это создаст человек, а не ИИ.

Я думаю, что наиболее реалистичный и такой уж и плохой сценарий будущего — симбиоз белкового и искусственного интеллектов. Это может быть нейроинтерфейс, встроенный в мозг (как в проектах Neuralink Илона Маска), или даже нечто напоминающее книги Пелевина — сохранение сознания в цифровом формате. Ну а дальше — алгоритмы оптимального производства / потребления, быстрого обучения, оптимального выбора профессии.  Классно же!  Все как у любимого мною с детства Ефремова:

Машины могут взять на себя всю физическую и вычислительную работу, но духовное развитие и рост остаются за человеком. Искусственный интеллект помогает нам решать задачи, но он не способен заменить человеческую душу. Технологии должны служить людям, помогая в их стремлении к знанию и гармонии, но не управлять ими

С угрозами вроде разобрались. Теперь хочется порассуждать о пользе ИИ. В частности, о модных сейчас LLM (больших лингвистических моделях), вроде GPT, Claude, LLaMA, DeepSeek и т. д. На первый взгляд, с пользой все понятно: тексты на заданную тему пишут, кодят на любом языке, картинки рисуют — вот она и польза. А если еще добавить возможности анализа больших данных, использование в научных исследованиях, оптимизации бизнес и технологических процессов в компаниях, так и вообще пользища.

Но я считаю, что главное не в этом. Появление систем ИИ — это революция в процессе познания человеком окружающего мира. Именно так — революция. Которая неизбежно повлечет за собой существенное изменение образовательных форматов и структуры научных сообществ.

Дальше я попытаюсь обосновать это смелое утверждение.

Давайте представим себе все человеческие знания о мире, а также неподтвержденные теории и гипотезы о его устройстве, в виде концентрических кругов, расположенных на бесконечной плоскости. Вот как на этой картинке.

И рано или поздно мы выходим за пределы базового круга и попадаем в круг специальных знаний. Они хранятся и приобретаются в университетах, научных школах и сообществах. В этом круге подтвержденные научные гипотезы о строении мира, ставшие фактами: медицина, технологии. Здесь известная научная методология и инструментарий математики, физики, биологии, химии. Одним словом — все те знания, которые человек использует в своей жизни, создавая на их основе различные устройства и материалы.

Последний круг — это круг неподтвержденных гипотез и теорий. Здесь специальные разделы физики, математики, биологии, астрономии и космологии.

За пределами этих кругов лежит бесконечная плоскость непознанного. Того, о чем мы пока даже не догадываемся, в отношении чего пока еще не выдвинули гипотез и не создали теорий.

Познавая мир, человек двигается в этих кругах от их общего центра к краю последнего круга гипотез и теорий. И если начинает он из базового круга, то по мере получения новых знаний и удаления от центра круга, область его знаний сужается. Теперь он уже не в круге, а в секторе, который по мере удаления от центра становится все уже и уже. На уровнях, близких к краю круга известных знаний, человек уже не знает «все обо всем», а сконцентрирован в очень узкой области, в которой он сумел стать экспертом.

Тот, кто смог приблизиться к краю круга известных знаний (а это единицы из миллионов), в состоянии создавать новые теории и выдвигать гипотезы, объясняющие непознанное. Дальше эти гипотезы подтверждаются или не подтверждаются, теории доказываются экспериментально, или не доказываются. Именно так постоянно расширяется круг известных знаний и круг гипотез о мире, охватывая все большие области знаний и гипотез.

Вот такая простая и понятная всем схема познания человеком мира.

Но приблизиться к границе круга известных знаний непросто. В давние времена, еще до появления интернета и поисковых машин типа Google или Yandex, мы, будучи студентами, а потом аспирантами и научными сотрудниками, днями просиживали в библиотеках и читальных залах, пачками заказывая научные журналы и монографии, конспектируя, осмысливая, выписывая ссылки на новые работы — и все по кругу. Встречались и общались с коллегами на бесконечных семинарах и конференциях. Преподаватели говорили нам: нельзя знать все, но мы учим вас быстро искать информацию. Мы учились и искали.

Со временем все больше и больше информации становилось доступно в интернете, и появились поисковики. Жить стало намного проще. Вместо читального зала — родной комп, вместо дней и недель — минуты и часы. Процесс познания и движения к краю круга ускорился, но не качественно. Все равно требовался навык поиска информации и время на ее обработку, систематизацию и осмысление.

Что сейчас? Пришла эра LLM (Large Language Model). Сегодня любая информация стала доступна за секунды: от фундаментальных знаний до последних гипотез. Благодаря LLM, таким как GPT-4, не нужно перечитывать десятки оригинальных статей — достаточно сформулировать запрос, и модель сделает краткий обзор темы. Причем не просто предоставит информацию, как это делают поисковые движки, а адаптирует её под контекст пользователя. Нужно только уметь задавать вопросы. Та же ситуация и с инструментами — теперь не нужно углубляться в программирование и писать сотни строк на С или Python для моделирования и анализа большого объема экспериментальных данных. Достаточно понимать общую концепцию языка и уметь поставить задачу. Пара часов, и скрипт для анализа готов. (Я помню, как я месяцами носил перфокарты на ЕС1060, чтобы смоделировать решение средненькой по сложности системы диффуров))).

Предвижу возражения: LLM выдают непроверенную информацию, часто ошибаются, все сильно зависит от качества промпта. Да, все так. Пока. Но вспомните поисковые машины начала 2000 и сравните их с нынешними.

Одним словом — появление больших языковых моделей (LLM) стало поворотным моментом в истории познания. Они не просто ускорили доступ к информации, как это сделали поисковые движки начала 2000-х — они изменили саму природу обучения, сделав его более динамичным, адаптивным и доступным. Как следствие, можно ожидать существенного, качественного ускорения движения из центра круга известных знаний к его краю. Меньше времени на обучение и техническую работу — больше времени на гипотезы и творчество.

Вероятно, в ближайшее десятилетие мы станем свидетелями значительного омоложения науки. Если до сих пор фундаментальные открытия совершаются людьми в возрасте 60+ (средний возраст нобелевских лауреатов = 62 годам), посвятившими десятилетия накоплению знаний, то теперь обучение и исследовательская деятельность могут значительно ускориться.

Но для того, чтобы это произошло, одних LLM мало. Необходимы качественные изменения системы образования. Особенно в той его части, которая занимается подготовкой исследователей в различных областях науки. Теперь студентов не нужно учить искать информацию или заставлять их заучивать правила. Гораздо важнее обучать их принципам критического мышления. Они должны знать основные научные концепции, теории и гипотезы, образующие круг известных знаний. Тогда они будут уметь правильно задавать вопросы, ставить задачи и корректно интерпретировать ответы. И самое главное — нужно учить их переходить границы круга известного, не бояться формулировать, обосновывать и проверять новые гипотезы. Сейчас это могут делать единицы. В новой реальности таких исследователей может быть существенно больше.

Вывод: ИИ не заменит человека и не угрожает ему, но изменяет сам процесс познания. В этом и заключается настоящая революция, которая происходит на наших глазах.