Сначала я хотел честно и подробно написать о методах снижения размерности данных — PCA, ICA, NMF, вывалить кучу формул и сказать, какую же важную роль играет SVD во всем этом зоопарке. Потом понял, что получится текст, похожий на вырезки из опусов от Mathgen, поэтому количество формул свел к минимуму, но самое любимое — код и картинки — оставил в полном объеме.
Читать полностью »
Рубрика «deep learning» - 25
Как уменьшить количество измерений и извлечь из этого пользу
2016-02-05 в 1:02, admin, рубрики: autoencoder, big data, data analysis, data mining, data science, deep learning, h2o, ICA, neural networks, NMF, PCA, R, SVD, главные компоненты, машинное обучение, Программирование, разложениеВ мозге помещается 1 петабайт информации
2016-01-21 в 10:56, admin, рубрики: deep learning, гиппокамп, глубинное обучение, мозг, Научно-популярное, нейросети, память, синапсы 
Объём памяти в человеческом мозге оказался невероятно большим. Эту тему исследовали американские неврологи: авторы научной работы Терри Сейновски (Terry Sejnowski) из института биологических исследований Солка и Кристен Харрис (Kristen Harris) из университета Техаса в Остине, с коллегами. Их статья опубликована в журнале eLife.
Учёные изучили, как функционируют нейроны гиппокампа, при низком энергопотреблении они показывают высокую производительность. Оказалось, что вместимость мозга может быть в десять раз больше, чем считалось ранее. «Это настоящая бомба в неврологии, — говорит Сейновски. — Наши измерения объёма памяти в мозге увеличивают консервативную оценку в 10 раз как минимум до петабайта, примерно до объёма всей информации в интернете».
Сейновски, очевидно, имеет в виду только текстовую информацию. Но даже в этом случае такая оценка очень впечатляет.
Читать полностью »
Facebook обнародовал данные о своем сервере искусственного интеллекта
2015-12-14 в 13:31, admin, рубрики: deep learning, Facebook, ua-hosting.company, Блог компании ua-hosting.company, ИИ, искусственный интеллект, разработка, сервер 
Новый сервер Facebook
В конце прошлой недели представители Facebook заявили о том, что специалисты компании создали устройство, воплотившее идею искусственного интеллекта, основанного на принципе глубокого обучения. Предполагается, что разработка может быть задействована в нескольких приложениях Facebook, сообщает venturebeat.com. Любой желающий может ознакомиться с дизайном изобретения в Open Compute Project.
Серверы с кодовым названием Big Sur оснащены графическими процессорами (GPU), выполняющими функцию главных компонентов в рамках алгоритма глубокого обучения. Метод предполагает формирование искусственных нейросетей на основе больших объемов информации — например, фотографий – которые впоследствии помогают проанализировать новые данные. Facebook вкладывает все больше средств и сил в развитие данной сферы, так почему бы компании не задуматься о создании соответствующего пользовательского оборудования, как это было с серверами общего назначения, виртуальными хранилищами и сетевым оборудованием. Более того, поделиться дизайном разработки не менее удачная идея.
Читать полностью »
Google открыла для всех библиотеку машинного обучения TensorFlow
2015-11-09 в 21:38, admin, рубрики: c++, deep learning, Google, open source, python, TensorFlow, искусственный интеллект, машинное обучение, нейросети, Программирование, метки: TensorFlow 
«Ещё пару лет назад вы не могли разговаривать с приложением Google в городском шуме или прочитать вывеску на иностранном языке с помощью переводчика Google Translate, или мгновенно найти фотографии своего лабрадуделя, — пишет Google в официальном блоге. — Наши приложения просто не были достаточно умными. Но за короткий промежуток времени они стали намного, намного умнее. Сейчас, благодаря машинному обучению всё это доступно. Несмотря на весь прогресс, которого мы добились, всё ещё остаются возможности для улучшения. Поэтому мы создали совершенно новую систему машинного обучения, которую назвали TensorFlow. Она быстрее, умнее и гибче, чем наша старая система, так что её намного проще приспособить к новым продуктам и исследованиям».
Итак, компания Google выложила свою новейшую разработку TensorFlow во всеобщее пользование под свободой лицензией Apache 2.0.
Читать полностью »
Сравнение библиотек глубокого обучения на примере задачи классификации рукописных цифр
2015-04-07 в 17:45, admin, рубрики: caffe, data mining, deep learning, itseez, opencv, pylearn2, theano, torch, Алгоритмы, Блог компании «Itseez», Компьютерное зрение, машинное обучение, обработка изображенийКручинин Дмитрий, Долотов Евгений, Кустикова Валентина, Дружков Павел, Корняков Кирилл
Введение
В настоящее время машинное обучение является активно развивающейся областью научных исследований. Это связано как с возможностью быстрее, выше, сильнее, проще и дешевле собирать и обрабатывать данные, так и с развитием методов выявления из этих данных законов, по которым протекают физические, биологические, экономические и другие процессы. В некоторых задачах, когда такой закон определить достаточно сложно, используют глубокое обучение.
Глубокое обучение (deep learning) рассматривает методы моделирования высокоуровневых абстракций в данных с помощью множества последовательных нелинейных трансформаций, которые, как правило, представляются в виде искусственных нейронных сетей. На сегодняшний день нейросети успешно используются для решения таких задач, как прогнозирование, распознавание образов, сжатие данных и ряда других.
Читать полностью »
Нейропластичность в искусственных нейронных сетях
2015-03-20 в 7:19, admin, рубрики: big data, data mining, deep learning, inductive transfer, transfer learning, Алгоритмы, Блог компании Mail.Ru Group, глубокие сети, глубокое обучение, Компьютерное зрение, машинное обучение, нейронные сети, нейропластичность, свёрточная нейросеть 
Привет, давно не виделись. В этом посте мне хотелось бы рассказать о таком относительно новом понятии в машинном обучении, как transfer learning. Так как я не нашел какого-либо устоявшегося перевода этого термина, то и в названии поста фигурирует хоть и другой, но близкий по смыслу термин, который как бы является биологической предпосылкой к формализации теории передачи знаний от одной модели к другой. Итак, план такой: для начала рассмотрим биологические предпосылки; после коснемся отличия transfer learning от очень похожей идеи предобучения глубокой нейронной сети; а в конце обсудим реальную задачу семантического хеширования изображений. Для этого мы не будем скромничать и возьмем глубокую (19 слоев) сверточную нейросеть победителей конкурса imagenet 2014 года в разделе «локализация и классификация» (Visual Geometry Group, University of Oxford), сделаем ей небольшую трепанацию, извлечем часть слоев и используем их в своих целях. Поехали.
Читать полностью »
Искусственный интеллект который может понимать, о чём видео
2015-02-20 в 12:15, admin, рубрики: deep learning, Блог компании Generate.club, Видео-техника, ИИ, искусственный интеллект, Медиа, Научно-популярное, распознавание образовМы мельком заглянули в будущее онлайн поиска, и вот что мы там увидели: 17 секундное видео со щеночком, предоставленное Clarifai – небольшим стартапом, специализирующимся на искусственном интеллекте.
Видео показывает милого щеночка, тыкающегося в свою хозяйку, но самое интересное находится в линиях снизу видео. Использую базу данных из 10 000 визуальных категорий, которую Clarifai собрали за последние пол года, программное обеспечение компании следит за каждым кадром видео, автоматически описывая их такими словами, как «собака», «женщина», «глаза» и даже «милый».
Deep learning и Caffe на новогодних праздниках
2015-01-28 в 11:53, admin, рубрики: big data, data mining, deep learning, инструментарий, нейронные сети, обработка изображенийМотивация
В данной статье вы познакомитесь c применением deep learning на практике. Будет использован фреймворк Caffe на датасете SVHN.
Deep Learning. Этот buzz word уже давно звенит в ушах, но попробовать его на практике никак не удавалось. Подвернулся удобный случай это исправить! На новогодние праздники был назначен контест на kaggle по распознаванию номеров домов в рамках курса по анализу изображений.
Читать полностью »
Алгоритмы Facebook смогут распознавать «пьяные» фотографии
2014-12-14 в 9:10, admin, рубрики: deep learning, Facebook, искусственный интеллект, нейросеть, пьянство, распознавание лиц, селфи, Социальные сети и сообщества, фотографии 
Facebook работает над программным обеспечением, которое будет автоматически распознавать пьяных людей и блокировать фотографии пользователей в непотребном виде, чтобы на следующее утро им не было мучительно стыдно перед родителями и друзьями. Естественно, на утро человек может отменить блокировку и подтвердить публикацию фотографий.
Для реализации этой идеи нужно использовать алгоритмы распознавания образов и систему искусственного интеллекта, способную отличать трезвых. Задача действительно непростая, ведь даже люди справляются с ней не всегда. Как в анекдоте про трудовика.
Читать полностью »
Про котиков, собак, машинное обучение и deep learning
2014-06-16 в 9:31, admin, рубрики: deep learning, искусственный интеллект, котики, машинное обучение, обработка изображений, метки: deep learning, котики, машинное обучение 
«В 1997 году Deep Blue обыграл в шахматы Каспарова.
В 2011 Watson обставил чемпионов Jeopardy.
Сможет ли ваш алгоритм в 2013 году отличить Бобика от Пушистика?»
Эта картинка и предисловие — из челленджа на Kaggle, который проходил осенью прошлого года. Забегая вперед, на последний вопрос вполне можно ответить «да» — десятка лидеров справилась с заданием на 98.8%, что на удивление впечатляет.
И все-таки — откуда вообще берется такая постановка вопроса? Почему задачи на классификацию, которые легко решает четырехлетний ребенок, долгое время были (и до сих пор остаются) не по зубам программам? Почему распознавать предметы окружающего мира сложнее, чем играть в шахматы? Что такое deep learning и почему в публикациях о нем с пугающим постоянством фигурируют котики? Давайте поговорим об этом.