Искусственное повторение компьютером возможностей человеческого до сих пор является архисложной задачей, которую нельзя решить тупо соединив вместе побольше вычислительных мощностей. Для воспроизведения алгоритмов работы нам всё ещё не хватает знаний о многих протекающих в нём процессах. Например, как устроена человеческая память. И на днях было объявлено, что в недрах компании DeepMind создан прототип компьютера, который оснащён собственной краткосрочной памятью.
В январе этого года стало известно о приобретении Google британской компании DeepMind за 400 млн долларов. Это была очень щедрая цена, учитывая едва ли не статус стартапа на тот момент и практически полную неизвестность. Однако Google заплатила столь немалую сумму не из-за неправильной оценки своего приобретения. DeepMind как была, так и осталась очень закрытой организацией, всячески скрывающей свою деятельность. До недавнего времени было известно лишь, что они занимаются исследованиями в области искусственного интеллекта и высокоуровневых нейросетей. Это ключевые научные дисциплины, необходимые для создания искусственного , способного стать полноценным помощником для людей.
Согласно опубликованным данным, DeepMind активно теорию о когнитивном для воссоздания некоторых элементов человеческой памяти. Традиционная компьютерная нейросеть состоит из взаимосвязанных процессоров («нейронов»), которые могут менять интенсивность информационного обмена в зависимости от внешних входных данных. Это позволяет смоделировать пластичность и его способность к обучению. DeepMind добавили новый компонент, описанный пионером компьютерной науки Аланом Тьюрингом. В его вычислительной модели память работает как телеграфная лента, которая может двигаться вперёд и назад через компьютер, сортируя переменные для последующей обработки. По сути, это внешняя память, которую и добавили в DeepMind.
Это позволило «Нейронной Машине Тьюринга» (Neural Turing Machine), как назвали в DeepMind своё детище, понимать новую информацию в виде неких фрагментов. Этот обманчиво расплывчатый термин используется когнитивистами для определения модулей памяти. Американский когнитивный психолог Джордж Миллер провёл в 1950-х годах эксперименты, в ходе которых обнаружил, что кратковременная память человеческого может удерживать одновременно не более семи фрагментов данных.
Под «фрагментом» может подразумеваться почти всё на свете: человек, простое понятие, место, что угодно. Одно-единственное высказывание может состоять как из двух-трёх фрагментов, так и из нескольких десятков. Вот почему сложные утверждения труднее анализировать. Созданный в DeepMind компьютер использует внешнюю память, чтобы держать наготове фрагменты, к которым он может обратиться и использовать для разных задач.
Так что же это даёт для нейросети? Это позволяет «разучивать» новые схемы поведения без их предварительного программирования. Например, Нейронную Машину Тьюринга «натренировали» запомнить некий набор данных. Потом ей указали запоминать те же данные последовательно, на протяжении определённого количества раз. Особенность в том, что НМТ никогда не «учили» этого делать, но применяя свою новую кратковременную память, она смогла «выучить» простой алгоритм на основе имеющихся примеров.
Это большой шаг на пути к созданию полноценных нейросетей, но ещё предстоит сделать очень многое. Хоть наш и может одновременно удерживать не более 7 фрагментов. но зато мы способны после полной обработки объединять несколько фрагментов в один. Такое «перекодирование» может стать ключом к созданию искусственного интеллекта, к машинному обучению, в ходе которого компьютер сможет сам создавать новые поведенческие схемы. Вот чем занимается DeepMind, и кто знает, возможно, уплаченная за них сумма скоро покажется весьма небольшой.
Автор: Fyodorov2000
