В 2013 году для симуляции 1 секунды работы 1% человеческого потребовалось 40 минут на кластере из 82 944 процессоров 10-петафлопсного K computer. Учёные попытались повторить работу 1,73 млрд нервных клеток и 10,4 трлн соединяющих их синапсов, на каждый из которых ушло 24 байта.
Мощность суперкомпьютеров нового поколения будет исчисляться в экзафлопсах, но при существующих программных решениях её хватит на симуляцию лишь 10% активности . Международная команда учёных создала алгоритм, способный это изменить и представить до 100% активности. Впервые исследователям хватит мощности существующих компьютеров для симуляции нейронной сети в масштабах целого человека.
Новый алгоритм симуляции призван помочь моделировать 100 миллиардов взаимосвязанных нейронов на экзафлопсных суперкомпьютерах, то есть «оцифровывать» нейроны в масштабах целого . Он основан на инструменте нейросимуляции NEST, с которым работает Human Brain Project. В создании алгоритма приняли участие исследователи научных учреждений нескольких стран: Юлихский исследовательский центр (Германия), Норвежский университет естественных наук и технологий NMBU, Рейнско-Вестфальский технический университет Ахена (Германия), Институт физико-химических исследований RIKEN (Япония), Королевский технологический институт (Швеция).
«Прежде чем будет возможно симулировать нейронную сеть, нейроны и их связи должны быть созданы в виртуальной среде», – рассказывает автор исследования Сюзанна Кункель (Susanne Kunkel). В процессе симуляции 100 тысяч нейронов, представленных тем же количеством узлов сети, волна возбуждения от нейрона должна быть отправлена ко всем 100 тысячам узлов. Каждая из нодов оборудована процессорами для совершения вычислений. При получении сигнала они используются в том числе для того, чтобы проверить его релевантность – относится ли этот импульс к ней.
Каждому сигналу соответствует один бит информации на процессор для каждого нейрона сети. Для сети из миллиарда нейронов большое количество памяти нодов будет потрачено на проверку релевантности. С увеличением сети это количество растёт, так что для повышения в симуляции доли активности с 1% до 100% потребует увеличение памяти компьютеров в 100 раз. С 2014 года симуляции нейросетей с помощью NEST осуществлялись на K computer и JUGENE мощностью 10 петафлопс и 222 терафлопс соответственно. Будущие суперкомпьютеры станут мощнее, количество процессоров для вычислений вырастет, но объём памяти на процессор останется прежним.
Здесь пригодится новый алгоритм NEST. В начале симуляции он позволит нодам определить, какие данные о нейронной активности должны быть отправлены и куда. После того, как эта информация будет ясна, будет возможна отправка данных в адресном порядке. Это устранит необходимость обрабатывать бит данных каждому нейрону сети.
Программное обеспечение сегодня способно представить около 1% активности нейронов в коре головного на суперкомпьютерах, мощность которых исчисляется в петафлопсах. Следующее поколение экзамасштабных суперкомпьютеров позволит увеличить этот показатель до 10%. Новый алгоритм даст возможность на этих же мощностях симулировать до 100% активности при использовании того же количества памяти.
Исследователи уверены, что после оптимизации использования памяти главной задачей станет повышения скорости симуляции. Например, сегодня симуляция 0,52 миллиардов нейронов, объединённых 5,8 триллионами синапсов, на суперкомпьютере JUQUEEN занимает 28,5 минут на 1 секунду биологического времени. Новый алгоритм по подсчётам учёных сократит это время до 5,2 минут. «Комбинация экзамасштабного железа и нового программного обеспечения позволит исследовать фундаментальные функции , такие как пластичность и обучение, протекающие в течение минут биологического времени», — рассказывает Маркус Дисман (Markus Diesman). В 2013 году учёный утверждал, что вычислительные мощности, необходимые для имитации работы , станут доступны после 2020 года – через два года мы сможем узнать, прав ли он.
В одном из следующих релизов программного обеспечения от Neural Simulation Technology Initiative код окажется в свободном доступе для всего сообщества. Алгоритм позволит ускорить симуляции на существующих петафлопсных суперкомпьютерах, утверждают разработчики.
Кэндзи Доя (Kenji Doya), инженер и нейробиолог из Института Науки и Технологий Окинава, может стать одним из первых пользователей нового алгоритма: «Мы работали с NEST для симуляции комплексной динамики базальных ганглий здорового человека и при болезни Паркинсона на K computer. Мы рады услышать о новой версии NEST, которое позволит запустить симуляцию целого на компьютерах следующего поколения, что даст возможность прояснить механизмы моторных и ментальных функций».
Автор: Иван Сычев
