В июне 2012 года группа исследователей из Google запустила нейросеть на кластере 1000 компьютеров (16 тыс. процессорных ядер; 1 млрд связей между нейронами). Эксперимент стал одним из самых масштабных в области искусственного интеллекта, причём систему изначально создавали для решения практических задач.
Самообучаемая нейросеть — достаточно универсальный инструмент, который можно использовать на разных массивах данных. В компании Google её применили для улучшения точности распознавания речи: «Мы получили улучшение от 20% до 25% по показателю неправильно распознанных слов, — говорит Винсент Ванхоук (Vincent Vanhoucke), руководитель отдела распознавания речи в Google. — Это значит, что многие люди получат безошибочный результат». Нейросеть оптимизировала алгоритмы для английского языка, но Ванхоук говорит, что аналогичные улучшения могут быть достигнуты и для других языков и диалектов.
Нейросеть используется также в проекте Google Street View для обработки маленьких фрагментов фотографий, где нужно определить — является число на фрагменте номером дома или нет. Удивительно, но в этой задаче нейросеть показывает лучшую точность распознавания, чем люди.
В будущем нейросеть будет использована в других продуктах Google, таких как поиск изображений, очки Google Glass и автомобили Google с беспилотным управлением. Один из сотрудников проекта по разработке нейросети Джефф Дин (Jeff Dean) говорит, что в автомобиле система может учитывать контекстную информацию, в том числе информацию с лазерных дальномеров или, например, звук мотора. Джефф Дин говорит, что мощная нейросеть способна использовать много контекстной информации в процессе тренировки — по этой причине они и решили создать такой большой кластер из 1000 серверов, в то время как большинство исследователей тестируют нейросети на одном компьютере.
Первые результаты эксперимента с нейросетью Google были опубликованы в июне 2012 года. Тесты показали, что нейросеть успешно поддаётся самообучению. После просмотра 10 миллионов случайных кадров с Youtube в нейросети сформировались нейроны, селективно реагирующие на присутствие лиц на изображениях. По мнению учёных, нейросеть Google в процессе самообучения работала примерно так же, как работают нейроны в зрительной коре головного млекопитающих. С той оговоркой, что нейросеть Google, несмотря на свои масштабы, всё таки гораздо меньше по количеству узлов, чем нейросеть зрительной коры.
На иллюстрации ниже показано композитное изображение, которое соответствует оптимальному стимулу для нейрона-классификатора кошки, во время первого эксперимента.
Композитное изображение, которое соответствует оптимальному стимулу при активации нейрона-классификатора человеческого лица.
Автор: alizar
