Сны разума: что общего у сновидений с работой нейросетей?

в 14:00, , рубрики: Без рубрики

Сны разума: что общего у сновидений с работой нейросетей? - 1


Собственные сны удивляют людей всю их историю как разумного вида. Порой они похожи на нашу обычную жизнь, порой смешивают её элементы в очень странных сочетаниях, а порой и вовсе представляют собой сюрреалитические миры, безумию которых позавидовал бы Сальвадор Дали. Свежие исследования показывают, что у наших сновидений может быть довольно много общего с тем, как обучаются нейросети, — и, возможно, именно это и является их важнейшим функционалом.

Сны видят многие высокоорганизованные животные, далеко не только люди. Кошки и собаки нередко демонстрируют это очень наглядно для хозяев, дёргая во сне лапами и явно обозначая, что им снится что-то оживлённое. Увы, до сих пор учёные не сумели докопаться до достоверного объяснения причин, почему это происходит. Исследователи расходятся во мнениях относительно того, являются ли сновидения побочным эффектом иных функций мозга — или же они служат некой собственной, физиологически, психически и эволюционно обусловленной цели.

Наглядная демонстрация поступления нейронных импульсов к мышцам: можно предположить, что коту снится охота или противостояние с кем-то опасным

Существует ряд теорий, пытающихся объяснить сновидения. Среди них — идея о том, что сны необходимы для регуляции нашего эмоционального здоровья (привет дедушке Фрейду): якобы они помогают нам психологически практиковаться при столкновении с далеко не всегда предсказуемыми и приятными явлениями реального мира. Но наиболее популярная современная теория состоит в том, что сны связаны или даже напрямую провоцируются процессами обработки и хранения памяти в природной нейросети нашего мозга.

Сны разума: что общего у сновидений с работой нейросетей? - 2

Немного инфографики про современные представления о работе человеческого мозга во сне

Автор недавней статьи в Patterns, американский нейропсихолог Эрик Хоэл из Висконсинского университета в Мадисоне, называет свою идею «гипотезой переобученного мозга».

Переобучение, переобученность (англ. overfitting) — явление в машинном обучении, когда построенная модель хорошо объясняет примеры из обучающей выборки, но неважно работает на примерах, не участвовавших в обучении. Это связано с тем, что в процессе обучения в предложенной ИИ выборке обнаруживаются некоторые случайные закономерности, которые отсутствуют в генеральной совокупности. В результате модель запоминает многие паттерны на основе предложенных для обучения массивов данных — вместо того, чтобы научиться подмечать действительные закономерности.

Сны разума: что общего у сновидений с работой нейросетей? - 3

Наглядный пример того, как может работать переобученность ИИ

На эту идею Эрика Хоэла натолкнул странный феномен, отмеченный на пике карантинных мер во время пандемии Covid-19 в 2020-21 годах. Многие люди, оказавшиеся в режиме самоизоляции, отмечали неожиданное повышение яркости и причудливости снов: в Твиттере даже завирусился хештег #pandemicdreams, «пандемические сны». Также известно, что человек с большей вероятностью запомнит сон, если он просыпается не сам по себе, а принудительно, по звонку будильника или растормошённый кем-то. Если верить данным, которые в наши дни предоставляют даже фитнес-браслеты, каждую ночь мы погружаемся в несколько фаз быстрого сна — которые сейчас достаточно уверенно связывают с процессом сновидений. Более того, если целенаправленно стараться вспоминать и записывать сны, это начинает получаться всё лучше и лучше.

Сны разума: что общего у сновидений с работой нейросетей? - 4

Быстрый сон с наибольшей концентрацией сновидений также известен как парадоксальный или REM-сон (rapid-eye movement, сон с быстрым движением глазных яблок)

Гипотеза Эрика Хоэла частично основана на процессе обучения нейронных сетей, стремящихся найти закономерности в больших наборах данных. Им часто предоставляют данные, похожие, но не идентичные данным, которые они будут анализировать позже. Практические данные намеренно засоряются лишним шумом и хаосом. Это делается для того, чтобы предотвратить это самое «переобучение» — чтобы нейросеть не стала слишком «узкоспециализированной» и неспособной идентифицировать и анализировать значительно более широкую картину при работе с реальными массивами данных.

Сны разума: что общего у сновидений с работой нейросетей? - 5

Ещё одна популярная визуализация переобученности

Гипотеза Эрика Хоэла утверждает, что наш мозг — как природная, биологическая нейросеть — делает нечто подобное во время сновидений. По его мнению, галлюциногенная, деконструирующая категории и паттерны материя снов позволяет нашему мозгу вводить в обработку «искажённые», «испорченные» сенсорные данные. И это отнюдь не баг, а вполне себе фича, выработанная миллионами лет проб, ошибок и эволюционного естественного отбора.

Впрочем, сон нужен далеко не только для этого, и его фазы чередуются не случайно: современные данные указывают на то, что во время сна без сновидений происходит буквально отдых организма и мозга, очистка нервной системы от вредных продуктов метаболизма и восстановление клеток. А вот во время быстрого сна происходит некоторая до сих пор не вполне понятная форма обработки полученных ранее данных в форме сновидений. Что, возможно, влияет на улучшение производительности нейросети внутри наших черепов.

Сны разума: что общего у сновидений с работой нейросетей? - 6

Вероятно, уже наши ранние предки-приматы видели странные сны, и это помогало им приспосабливаться к жизни в опасном реальном мире

Представляя спящему разуму крайне причудливую оптику на опыт материального мира, наш мозг тем самым не даёт нам слишком зацикливаться на узкоспециализированных, привычных и давно отработанных задачах. Тем самым он делает нас более способными к обобщениям — а значит, к более адекватному поведению тогда, когда мы сталкиваемся с чем-то неожиданным, непривычным и странным. Доктор Хоэл резюмирует это довольно поэтично, утверждая: «Сны существуют для того, чтобы удерживать нас от чрезмерного прогибания под изменчивый мир» (Dreams are there to keep you from becoming too fitted to the model of the world). Если его гипотеза верна, то те наши предки, которые не видели странных снов, чаще оказывались неспособны на адекватные реакции в незнакомых ситуациях, реже проявляли изобретательность и потому чаще погибали, реже оставляя свой генетический материал потомкам. То есть мы — буквально наследники тех обезьян, которые видели наиболее упоротые сны.

Нейросетевой клип на песню Sabaton, неплохо воспроизводящий расплывчатость снов

Доктор Хоэл предполагает, что доказательства его гипотезы уже отчасти существуют. Медицинские эксперименты показали, что многократное выполнение новой задачи во время бодрствования — статистически достоверный способ добиться того, что вы будете видеть примерно то же самое, но в причудливых формах, во сне следующей ночью. Он предполагает, что подобные действия активизируют защиту бионейросети нашего мозга от переобучения — в результате чего и появляются странные сны.

Сны разума: что общего у сновидений с работой нейросетей? - 7

«Дезинтеграция постоянства памяти» Сальвадора Дали 1952 года: знаменитый сюрреалист пытался передать свои впечатления от первого этапа развития компьютерной техники и квантовой физики

Гипотеза доктора Хоэла не обязательно исключает другие гипотезы о сне и сновидениях, которые в настоящее время также имеют достаточное количество эмпирических подтверждений. Впрочем, он предлагает несколько способов проверить предположения, содержащиеся в его гипотезе, — к примеру, качественный эксперимент по изучению влияния лишения сна на способность лабораторных мышей и крыс осмыслять источники страха.

Сны разума: что общего у сновидений с работой нейросетей? - 8

Да вы уже задолбали, как бы говорит нам лабораторная крыса

Отслеживание синаптических изменений в процессе сновидения также может оказаться перспективным для подтверждения или опровержения его гипотезы. Эрик Хоэл предполагает, что искусственные подобия сновидений вроде виртуальной реальности могут давать схожий эффект борьбы с негативными эффектами переобучения. В качестве пока что умозрительного эксперимента он предлагает следующий вариант: пилота, слишком привыкшего к рутинным полётам гражданской авиации, можно помещать в виртуальной реальности в странные и непредсказуемые условия, в которых ему придётся действовать не по привычным процедурам и регламентам.

Сны разума: что общего у сновидений с работой нейросетей? - 9

Ну а что, гулять так гулять!

Отчасти к гипотезе Эрика Хоэла примыкают недавние (октябрь 2022 года) результаты исследований американских нейробиологов во главе с Анной Шапиро, в которых они сумели научить имитирующую человеческий мозг нейросеть… спать. Более того, им удалось получить результаты, согласно которым гиппокамп и неокортекс мозга осуществляют в процессе сна довольно интересные процессы обработки данных.

Сны разума: что общего у сновидений с работой нейросетей? - 10

Мозг как он есть

Гиппокамп — довольно древняя часть мозга, располагающаяся в его центре, — осуществляет функцию контроля внимания к данным, поступающим от сенсоров (выделяет фигуру из фона, если использовать термины гештальт-терапии) и кратковременной памяти, а также переводит данные из «ОЗУ» в долговременную память. Неокортекс — новая зона у самой поверхности мозга с извилинами, — собственно, и позволяет нам быть разумными существами с интернетом и прочими плюшками. Здесь хранится долговременная память и осуществляются сложные процессы вроде вербализованного мышления, речи и письма.

Сны разума: что общего у сновидений с работой нейросетей? - 11

Ещё немного об устройстве человеческого мозга

Команда нейробиологов из университета Пенсильвании создала нейросетевую модель человеческого мозга для имитации функций обучения и памяти, которая включала имитацию гиппокампа как центра обработки новых данных, свежих воспоминаний и впечатлений, и неокортекса, отвечающего за уровни осознания, глубокой обработки данных и долговременного сохранения воспоминаний. Команда Анны Шапиро провела несколько симуляций сна, которые показали: во время медленного сна искусственный мозг в основном анализировал недавние инциденты и новые данные в гиппокампе, а во время быстрого сна перекачивал их в области неокортекса для более глубокой обработки, упорядочивания и сохранения информации.

Сны разума: что общего у сновидений с работой нейросетей? - 12

Сможем ли мы когда-нибудь напрямую сопрягать мозг с искусственными нейросетями?

То есть во время медленного сна искусственный гиппокамп фактически обучал искусственный же неокортекс, а во время фазы быстрого сна тот активизировался, воспроизводил и обрабатывал то, что узнал. Чередование двух стадий сна в этом эксперименте фактически доказало своё значение для формирования воспоминаний. Теперь осталась самая малость: подтвердить результаты на настоящих человеческих мозгах. Следующим шагом Анна Шапиро и её коллеги называют эксперименты, имеющие задачу выяснить, действительно ли быстрый сон оформляет свежие воспоминания в долговременную память и какое значение это может иметь для интеграции новой информации в существующие знания. Гипотеза Эрика Хоэла добавляет к этой идее существенные детали того, как именно формируются долговременные воспоминания из свежего опыта. А также демонстрирует, что их превращение в причудливые, сюрреалистичные картины вместо строгого воспроизведения может иметь важное значение как для нашего сознания, так и для выживания и развития человеческого вида в целом.

Сны разума: что общего у сновидений с работой нейросетей? - 13

Древо прокачки мозгов позвоночных

Если гипотеза Хоэла приживётся, будущие исследователи наверняка попытаются подтвердить или опровергнуть сделанные ею предсказания. А до тех пор мы можем только строить догадки о возможных достоинствах и недостатках этой идеи в рамках того, что уже знаем об истине. Безусловно понятно одно: сон есть крайне важная процедура для нашего организма в целом и мозга в частности. Недосып, особенно систематический, очень вреден и для тушки, и для кукухи, — автор этих строк тому свидетель. Конечно, многие из нас видят в постоянном недосыпе даже некую доблесть, но лучше озаботиться приведением сна в норму до того, как организм будет вынужден намекнуть на необходимость этого самым неприятным и несвоевременным образом.

Сны разума: что общего у сновидений с работой нейросетей? - 14

Так что, коллеги, сон — это полезно: как с точки зрения физиологии, так и с точки зрения работы нейросетей. Доктор Ливси не даст соврать!

Выиграй телескоп и другие призы в космическом квизе от RUVDS. Поехали? 🚀

Автор:
popski_ruvds

Источник

* - обязательные к заполнению поля


https://ajax.googleapis.com/ajax/libs/jquery/3.4.1/jquery.min.js