Эволюция в Homo GPT: как не променять эффективность на критическое мышление

Homo GPT создан «по образу и подобию» нейросетей и доверяет свою жизнь «умным машинам». Верующий в могущественные нейросети, homo GPT при возникновении любой проблемы делегирует свой запрос большому брату ИИ, чтобы избежать тяготы интеллектуального усилия или дилеммы экзистенциального выбора. 

Insolarance, Алексей Соловьев и Ольга Календарева 

TL;DL

Меня зовут Никита Шевченко, с 2022 года я активно использую и популяризирую использование AI в личной жизни и рабочих процессах. Постепенно у меня зарождались сомнения (и даже страхи), которые можно сформулировать примерно так: “а что если, блин, я с AI всё-таки тупею? как это понять?”. Я собрал все свои мысли, опасения и способы защиты от риска превращения в Homo GPT.

Важный дисклеймер в эпоху AI 

Эта статья - моё личное мнение. Наверное, в нашу пост-AI эпоху важно это было прописать, потому что я не просто прогнал свой страх и вопрос через двадцатиминутный дип ресерч от chatgpt и собрал научные исследования, а какое-то время следил за собой, окружающими, повседневностью, проводил консультации по внедрению AI, читал что про это пишут философы, разработчики, СЕО техногигантов и просто мои знакомые, да и сам писал про это заметки в блоге. Как раз после вот таких наблюдений у меня и появились неутешительные гипотезы: 

• Мы слишком мало говорим про ограничения использования AI: понятно когда оно даёт пользу, а что насчёт вредных сценариев и долгосрочных последствий для нашей когнитивной работы? 

• В обществе много и громко говорят про то, что Mega-super-AGI убьёт кожаных, но, кажется, есть более тихие голоса, идея которых - AI незаметно сделает кожаных довольно глупыми. 

• Это всё масоны/иллюминаты/правительства, которые хотят управлять людьми без критического мышления.

Но, несмотря на эти гипотезы, я не призываю сжигать дата-центры и даже продолжаю оптимистично смотреть на AI, пишу про то, как он помогает в личной жизни и в работе, популяризирую использование AI в базах знаний, в работе и постоянно восхищаюсь продуктами, которые создаются с AI. Цель этой статьи - помочь себе и окружающим найти свою золотую середину. 

Эта статья - про ограничения и возможности 

Я писал эту статью вместе с AI. Это оказалось довольно важной частью моего личного исследования. И постепенно буду указывать авторство идей от LLM. Например, все предыдущие и следующие предложения я написал своими словами, потому что пришёл к тому, что писать самостоятельно (=думать) важно.

В голове я держу такую схемку, где на стыке возможностей и ограничений располагаются полезные и вредные способы применения AI: 

Но вопрос, который я точно не смогу раскрыть в этой статье: а где те самые ограничения AI и, тем более, человека. Мне кажется, мы их только начинаем щупать. Тут я смогу опираться только на свой опыт и наблюдения. 

У меня есть три сферы жизни, на которых я хочу иллюстрировать эту статью: 

• AI в работе с людьми (менеджмент)

• AI в писательской деятельности (статьи, блог)

• AI в творчестве (написание музыки)

Потому что первые годы использования искусственного интеллекта именно вокруг этих сфер у меня появлялся большой экзистенциальный ужас: казалось, что AI меня заменит примерно везде и скоро. Сейчас уже так не думаю. 

А что, реально проблема есть? 

Кажется, что да. Не хочется превращаться в саммаризатора научных статей, ведь для поиска исследований можно обратиться в тот же ChatGPT, который накидает вам примерно такие тезисы: 

• Некритическое мышление: частое использование искусственного интеллекта коррелирует с более низкими результатами тестов на критическое мышление. Вот тут источник, например.

• Плохие навыки принятия решений (см. эпиграф к этой статье): это как следствие предыдущего пункта, тут даже появляется термин "automation bias". Это когда люди, полагаясь на алгоритмы, снижают свою склонность к независимому, критическому анализу вариантов решения задач (игнорирование явных несостыковок и проблем).

• Снижение креативности идей. Оно, кажется, связано с первым и вторым пунктом - креативить и придумывать тоже сложно, всегда проще спросить у GPT 10 разных вариантов и получить один неплохой на выходе:)

• Ухудшение памяти. Говорят, что перекладывание задач по запоминанию на AI снижает нашу память (что для меня самый спорный пункт, кажется, благодаря интернету у нас уже и без того память не очень хорошая) 

• Снижение навыка фокусирования. Это мой любимый пункт, потому что AI для меня - это как тик-ток в сфере знаний. Можно быстро получать информацию, создавать иллюзию понимания и аргументировать свою точку зрения на любой вопрос в комментариях. И тут у меня уже есть сомнения по поводу того, насколько GPT с помощью своих метафор и коротких ответов в духе "расскажи как семилетнему ребёнку" даёт реальное понимание тем.

Мне сложно спорить с тезисами выше, вопрос, скорее, в другом - пора ли бить тревогу? Возможно, говорить про AI всё ещё рано, поэтому мне захотелось посмотреть на исследования появления прошлых технологических инструментов. И это правда похоже на то, что было раньше (и то, что уже давно изучает социология науки и технологий): когда пришли калькуляторы и в среднем снизили навык счёта в уме у людей, GPS-навигаторы понизили активацию гиппокампа или интернет, который вообще изменил то, как мы работаем с фактами. 

Все статьи про прошлый опыт говорят примерно про одно: передача умственной работы технологиям, приводит к сочетанию преимуществ (эффективность, точность, снижение рабочей нагрузки) и издержек (снижение практики, зависимость, потеря навыков).

Главный урок этих аналогий в том, что человеческие навыки адаптируются к тому, как их используют. Если какой-то навык постоянно перекладывается на ИИ, люди будут меньше им пользоваться и, скорее всего, станут менее способными в этом самом навыке. Хорошо про это написал Пол Грэм в эссе про навык письма (с чем я очень согласен): “через пару десятилетий не останется людей, умеющих писать”.

Но есть и обратная сторона - если технология используется как инструмент дополняющий человека, а не заменяющий, негативные последствия могут быть сглажены. 

А для себя я тут сделал такой вывод: AI действительно влияет на когнитивные способности, но это не оглупление, а перераспределение нагрузки. Мы отказываемся от одних навыков в пользу других. Так что и на что мы меняем? 

Возможности AI

Тут есть огромный соблазн написать сильные сферы применения AI простыми словами или вообще скопировать из GPT: 

• Анализ и обработку больших объёмов данных

• Генерацию идей и помощь в письме 

• Автоматизацию рутины 

• Решение задач с чёткими правилами

• И так далее 

Я же хочу разобрать на моих примерах

• Написание этой статьи

  • Где помогает AI:

    • Обработал большой массив информации и подготовил для меня список источников, которые стоит прочитать чтобы сформулировать свою точку зрения. 

    • Структурировал все мои заметки за разное время в один связанный план статьи 

    • Помогал преодолеть эффект чистого листа: когда идея есть, а как написать - не понятно 

    • Автоматизировал рутину - проверил грамматику, расставил абзацы  

    • Дал фидбэк по статье: выделил сильные аргументы, слабые аргументы, как их можно усилить. 

  • Как AI мог ухудшить опыт: например, если бы я бездумно приводил аналогии, просил его придумать примеры, аргументы, написать за меня сам текст. Люди распознают механистичность текста (даже не буду искать исследования). 

• Менеджмент и управление коммуникацией

  • Где помогает AI:

    • Смотрит на проблемы без разных предвзятостей 

    • Выступает в роли медиатора и помогает занять в спорах более нейтральную позицию

    • Помогает подобрать фреймворк для проведения встречи, составить план, даёт фидбэк на то, как я хочу её провести 

    • После встречи читает мои заметки и даёт свой фидбэк: какие проблемы я забыл обсудить, что я мог пропустить, чему можно мне поучиться 

    • Оформляет постмит на основе моих заметок 

  • Как AI мог ухудшить опыт: когда слепо беру то, что он рекомендует - я знаю больше контекста, знаю реакцию людей и учитываю её при принятии решений и игнорирую свою интуицию. Часто очевидные фреймворки и решения из-за этого просто не работают :) 

• Написание музыки

  • Где помогает AI:

    • Создаёт разные идеи, из которых я выбираю. Если я сажусь за музыку, я слишком склонен использовать то, что у меня раньше получалось. И AI часто с помощью довольно простых инструментов помогает накидать новую барабанную партию, новую мелодию, которую я уже забираю и начинаю развивать. 

    • Делает окончательное сведение 

    • Делает ремиксы, на основе которых я также забираю какие-то новые идеи 

    • Вообще, мне кажется, что тут появляется что-то типа вайб-кодинга, но в музке: вот здесь я писал подробнее про это.

  • Как AI мог ухудшить опыт: когда я теряю своё авторство в треках через прогоны через AI, превращая создание музыки в механический перебор того, что звучит приятно. Многие системы позволяют определить насколько сильно нужно менять трек при окончательной AI-доработке - я ставлю не более 5% и результат меня всегда приятно удивляет. 

Ограничения AI - где я стараюсь возвращать себе агентность 

А теперь, думаю, опять же важно отметить - по итогам написания статьи, я провел её через ChatGPT, и он помог мне классно сформулировать главное ограничение при использовании AI: 

Ключевая проблема с AI — не то, что он нас делает тупее, а то, что он убирает сопротивление.

В сложных задачах именно сопротивление рождает развитие. Когда ты пишешь статью и не можешь сформулировать мысль, начинает работать глубокое мышление [я писал про это в прошлой статье о базах знаний и подсвечивал похожий риск делегировать мышление своему Obsidian]. Когда ты пишешь музыку и ищешь нужное слово, ты одновременно тренируешь свой вкус и чувство формы. Когда ты проводишь встречу и считываешь людей, ты прокачиваешь интуицию и эмпатию. А это, кажется, важно? 

Например, мне было сложно писать эту статью: сначала я долго наблюдал и печалился о том, как я и окружающие люди используют ИИ, проходил стадии сопротивления, читал материалы по теме, обсуждал это с живыми и искусственными интеллектами, и в итоге родил вот какой-то вывод. Формулировать эту статью тоже было сложно, потому что мыслей и идей много, и их хочется упаковать в складный текст. Но именно это сопротивление в итоге при публикации статьи даёт мне чувство удовлетворения от проделанной работы. И понимание того, что я что-то понял по пути.

Пока AI приобретает агентность, нам важно не потерять её самим. И, думаю, нам предстоит переосмыслить клише "AI не заменит людей - но люди, которые правильно его используют, заменят тех, кто не использует AI”. Вижу как эта идея становится опраданием использования его там, где это делать не стоит. Предлагаю что-то типа: 

AI не заменит твои навыки, но покажет, какие из них у тебя действительно есть :-) 

И тогда все риски можно оформить в такой небольшой список. Опасно, когда:

• Когда AI становится заменой мышления, а не инструментом: написание статьи, письма вместо осмысления, получение быстрых поверхностных ответов. 

• Когда AI снижает чувствительность к деталям и контексту: на любой живой встрече, по разным исследованиям, менее 10% информации передаётся вербально, всё остальное - тон голоса, ударения, невербальные сигналы. Может ли это обработать AI? Да, но есть нюансы в интерпретации :) Может, человек каждую встречу сидит в закрытой позе по привычке или у него холодно? 

• Когда AI включается как инструмент избегания сложностей и сопротивления: ну, правда, можно получить саммари идей из любой лекции и книги и опубликовать на хабре сводку. Но зачем тогда автор?

• Когда AI просто убивает кайф. Возможно, если вы не любите писать музыку/тексты/картины вручную, без AI, то не стоит вообще заходить в эту тему :) А лучше найти сферу, в которой AI будет нас усилять, а не заменять. 

Практики самопомощи в AI век 

Звучит красиво, но что делать-то? В этом блоке мне захотелось оставить, в первую очередь, для себя, какую-то надежду, принципы, которым буду следовать, чтобы не упустить тот момент, когда начнётся превращение в homo GPT и когнитивная деградация :) 

Забавно, что в этом блоке, по сути, я ничего нового не изобрёл и опираюсь на практики самопомощи для людей с СДВГ и тревожных: 

• AI-детокс 

Я стараюсь проводить субботу без когнтитивного труда, а значит, меньше использовать AI, идеально - вообще без него. Рекомендую, очень отрезвляет, возвращает в старый добрый 2021 год.

• Донастроить так, чтобы AI требовал включать мозг

Мой GPT донастроен кастомными инструкциями так, чтобы в конце задавал мне вопросы для рефлексии, и это, кажется, важная история, потому что даже на фоне помогает мне не забывать включать мозг. Ну и, конечно, просить альтернативные точки зрения и источники информации, не полагаясь на первое мнение AI. 

• Следить за рассуждениями AI

Я уверен, нам есть чему научиться у AI, и, надеюсь, что thinking модели немного исправят ситуацию с осознанным использованием LLM, потому что делают более прозрачным процесс размышления искусственного интеллекта над задачами. Периодически я раскрываю цепочку мыслей AI и пытаюсь увидеть в этом логику - почему ответ именно такой, где могли быть ошибки: 

• Общаться, блин, с людьми

  Писать статьи текстом, говорить голосом, формулировать самостоятельно. Эту статью я большую часть времени обсуждал с разными людьми, тестировал идеи об реальность, наблюдал за реакцией. GPT бы точно такого не выдал, а лишь подтверждал какие-то мои идеи. 

• Сначала подумай сам, потом - с AI.

И главное моё правило использования AI, оно же и самое простое. Есть большое постоянное желание забрать какой-нибудь готовый промпт, сформулировать короткий вопрос и получить ответ от AI, делегировать принятие решения, рассуждение по теме. 

В 2024 году распространялась идея, что промпт-инжиниринг умирает, и я с этим согласен, потому что для AI промпты уже не так важны - он и так нас хорошо понимает. Но промпты становятся важнее для самого человека: задавая промпт (или, проще говоря, рассуждая о проблеме, собирая контекст и формулируя вопрос) на старте, человек включает мышление вперёд машины, и это уже само по себе полезное занятие.

Ну и напоследок

Я думаю, эта статья - лишь промежуточные мысли в осмыслении этой (на мой взгляд) важной темы. Да и сам я только-только приоткрываю для себя двери в интересный мир социологии науки и технологий.

Поэтому приглашаю к диалогу: что наблюдаете вокруг и у себя? Какие навыки усиливаются, какие утрачиваются с появлением LLM в жизни? Что будете делать или делаете?

Больше про построение систем управления знаниями, выстраивание здоровой продуктивности с AI, собой и командами я пишу в своём телеграм-канале - буду рад подписке.