Ученые из Center of Clinical Data Science станут первыми, кто сможет обрабатывать данные с помощью суперкомпьютера для глубокого обучения DGX-1 на базе восьми графических процессоров Tesla V100. V100 показывают результат в 960 терафлопс при вычислениях FP16 благодаря технологии Volta Tensor Core.
Рубрика «нейросети» - 38
Первый суперкомпьютер DGX-1 на базе Tesla V100 применят в медицине
2017-09-21 в 8:23, admin, рубрики: DGX-1, Nvidia, Блог компании ИТ-ГРАД, высокая производительность, ИТ-ГРАД, нейросети
Фундаментальные ограничения машинного обучения
2017-09-07 в 9:38, admin, рубрики: глубинное обучение, искусственный интеллект, машинное обучение, мозг, нейросети, обучение, поиск закономерностей
Недавно моя тётя разослала своим коллегам емейлы с темой «задачка по математике! Какой правильный ответ?» В письме была обманчиво простая головоломка:
1 + 4 = 5
2 + 5 = 12
3 + 6 = 21
8 + 11 =?
Для неё решение был очевидным. Но её коллеги решили, что правильным было их решение – не совпавшее с её решением. Проблема была с одним из их ответов, или с самой головоломкой?
Моя тётя и её коллеги наткнулись на фундаментальную проблему машинного обучения, дисциплины, изучающей обучающиеся компьютеры. Практически всё обучение, которое мы ждём от компьютеров – и которым занимаемся сами – состоит в сокращении информации до основных закономерностей, на основании которых можно делать выводы о чём-то неизвестном. И её загадка была такой же.
Читать полностью »
Обзор C++ библиотек глубокого обучения Apache.SINGA, tiny-dnn, OpenNN
2017-08-17 в 11:37, admin, рубрики: Apache.SINGA, c++, c++ библиотеки, deep learning, machine learning, OpenNN, tiny-dnn, глубокое обучение, машинное обучение, нейросетиНаслаждаясь созданием моделей в Питоне на замечательных Deep Learning фреймворках типа Keras или Lasagne, время от времени хочется посмотреть, а что там интересного появилось для C++ разработчиков, помимо мейнстримовых TensorFlow и Caffe. Я решил поближе посмотреть на трех представителей: tiny-dnn, Apache.SINGA и OpenNN. Краткое описание опыта установки, сборки и использования под Windows Вы и найдете под катом.
Что может и чего не может нейросеть: пятиминутный гид для новичков
2017-08-09 в 10:40, admin, рубрики: neurodata lab, Блог компании Neurodata Lab, машинное обучение, нейронные сети, нейросетиС момента описания первого искусственного нейрона Уорреном Мак-Каллоком и Уолтером Питтсом прошло более пятидесяти лет. С тех пор многое изменилось, и сегодня нейросетевые алгоритмы применяются повсеместно. И хотя нейронные сети способны на многое, исследователи при работе с ними сталкиваются с рядом трудностей: от переобучения до проблемы «черного ящика».
Если термины «катастрофическая забывчивость» и «регуляризация весов» вам пока ни о чем не говорят, читайте дальше: попробуем разобраться во всем по порядку.
ИИ научили распознавать сарказм в Twitter по смайликам
2017-08-06 в 8:56, admin, рубрики: twitter, Алгоритмы, Научно-популярное, нейросети, определение сарказма, сарказм, Софт
Создатели «Симпсонов», как и во многих других случаях, предсказали появление этого изобретения задолго до его создания реальными учеными
Некоторые действия человека остаются непостижимыми для компьютера. Но часть поведенческих особенностей компьютерные системы научились распознавать, и весьма неплохо. Например, когнитивная система IBM Watson может определять эмоциональный тон письма. Научить компьютер определять эмоции довольно сложно, но возможно. На днях была представлена еще одна система, которая способна понимать сарказм. В данном случае речь идет о сарказме в сообщениях из Twitter. Разработчики этой системы утверждают, что она может определять эмоциональное наполнение сообщений различных пользователей лучше, чем в большинстве случаев это делает сам человек.
Зачем все это нужно? В первую очередь, для того, чтобы компании могли определять отношение пользователей социальных сетей к своим продуктам и себе самим. Сейчас для этого используются ключевые слова и некоторые другие методы. Но если компьютер сможет определять эмоции людей, отправляющих сообщений, то это может значительно улучшить эффективность работы компаний. Кроме того, если машины будут уверенно определять эмоции людей, это поможет пользователям понимать, какие эмоции использовал другой человек, который отправил, например, сообщение электронной почты.
Читать полностью »
Как ввести в заблуждение компьютер: коварная наука обмана искусственного интеллекта
2017-08-03 в 15:27, admin, рубрики: искусственный интеллект, машинное обучение, нейросети
В начале XX века Вильгельм фон Остин, немецкий тренер лошадей и математик, объявил миру, что научил лошадь считать. Годами фон Остин путешествовал по Германии с демонстрацией этого феномена. Он просил свою лошадь по кличке Умный Ганс (породы орловский рысак), подсчитывать результаты простых уравнений. Ганс давал ответ, топая копытом. Два плюс два? Четыре удара.
Но учёные не верили в то, что Ганс был таким умным, как заявлял фон Остин. Психолог Карл Штумпф провёл тщательное расследование, которое окрестили «Гансовским комитетом». Он обнаружил, что Умный Ганс не решает уравнения, а реагирует на визуальные сигналы. Ганс выстукивал копытом, пока не добирался до правильного ответа, после чего его тренер и восторженная толпа разражались криками. А затем он просто останавливался. Когда он не видел этих реакций, он так и продолжал стучать.
Читать полностью »
Как работает нейронный машинный перевод?
2017-07-28 в 10:55, admin, рубрики: Алгоритмы, Бернард Вокуа, Блог компании Lokalise, лингвистика, машинное обучение, машинный перевод, нейронный перевод, нейросети, перевод, перевод на базе слов, перевод на базе фраз, СемантикаОписание процессов машинного перевода основанного на базе правил (Rule-Based), машинного перевода на базе фраз (Phrase-Based) и нейронного перевода
В этой публикации нашего цикла step-by-step статей мы объясним, как работает нейронный машинный перевод и сравним его с другими методами: технологией перевода на базе правил и технологией фреймового перевода (PBMT, наиболее популярным подмножеством которого является статистический машинный перевод — SMT).
Результаты исследования, полученные Neural Machine Translation, удивительны в части того, что касается расшифровки нейросети. Создается впечатление, что сеть на самом деле «понимает» предложение, когда переводит его. В этой статье мы разберем вопрос семантического подхода, который используют нейронные сети для перевода.
Давайте начнем с того, что рассмотрим методы работы всех трех технологий на различных этапах процесса перевода, а также методы, которые используются в каждом из случаев. Далее мы познакомимся с некоторыми примерами и сравним, что каждая из технологий делает для того, чтобы выдать максимально правильный перевод.
Читать полностью »
Случайный лес vs нейросети: кто лучше справится с задачей распознавания пола из аудио (ч.1)
2017-07-26 в 8:16, admin, рубрики: neurodata lab, Блог компании Neurodata Lab, нейросети, Работа со звуком, распознавание аудиоИсторически сложилось так, что наибольшего успеха глубокое обучение достигло в задачах image processing – распознавания, сегментации и обработки изображений. Однако не сверточными сетями едиными, как говорится, живет наука о данных.
Мы попробовали составить гайд по решению задач, связанных с обработкой речи. Самой популярной и востребованной из них является, вероятно, распознавание того, что именно говорят, анализ на семантическом уровне, но мы обратимся к более простой задаче – определению пола говорящего. Впрочем, инструментарий в обоих случаях оказывается практически одинаков.
Ученые придумали метод сокращения энергопотребления нейросетей для использования на мобильных платформах
2017-07-21 в 17:08, admin, рубрики: искусственный интеллект, МТИ, нейросети, энергоэффективность
Прорыв последних лет систем искусственного интеллекта в областях автономного вождения, распознавания речи, машинного зрения и автоматического перевода стал возможен благодаря развитию искусственных нейронных сетей. Но для их запуска и обучения необходимо много памяти и энергии. Поэтому часто ИИ-компоненты работают на серверах в облаке и обмениваются данными с настольными или мобильными устройствами.
Нейронные сети состоят из тысяч простых, но тесно взаимосвязанных узлов обработки информации, обычно организованных в слои. Нейросети различаются числом слоев, соединений между узлами и узлов в каждом слое.
Соединения между узлами связаны с ними весами, которые определяют, насколько выход узла будет способствовать вычислению следующего узла. Во время обучения, в котором сети представлены с примерами вычислений, которые они учатся выполнять, эти веса постоянно корректируются, пока результат последнего слоя сети не будет соответствовать результату вычисления.
Какая сеть будет более энергоэффективной? Мелкая сеть с большими весами или более глубокая сеть с меньшими весами? Многие исследователи пытались дать ответ на эти вопросы. В последнее время основная активность в сообществе глубокого обучения была направлена на разработку эффективных нейронных сетевых архитектур для платформ с ограниченными вычислительными возможностями. Однако большинство этих исследований было сосредоточено либо на сокращении размера модели, либо вычислений, в то время как для смартфонов и многих других устройств потребление энергии имеет первостепенное значение из-за использования батарей и ограничений по теплопакету.
Исследователи из Массачусетского технологического института (МТИ) под руководством доцента кафедры электротехники и информатики Вивьен Сэ (Vivienne Sze) разработали новый подход к оптимизации сверточных нейронных сетей, который ориентирован на минимизацию энергопотребления с использованием нового инструмента оценки расходования энергии. Читать полностью »
Нейросети диагностируют проблемы с сердцем более точно, чем врачи
2017-07-07 в 19:30, admin, рубрики: будущее здесь, врачи, Здоровье гика, Медгаджеты, медицина, нейросети
Человеческий фактор часто становится причиной возникновения проблем. Это касается производства, бытовых ситуаций, вождения и, конечно же, медицины. Ошибка врача может означать потерю здоровья или даже жизни пациентом, а врачи ошибаются не так уж и редко. Даже профессионал высшей пробы может делать ошибки — ведь специалист может быть уставшим, раздраженным, концентрируясь на проблеме хуже, чем обычно.
В этом случае на помощь могут прийти машины. Та же когнитивная система IBM Watson, например, вполне неплохо управляется с работой в медицинской сфере (онкология, чтение рентгеновских снимков и т.п.). Но есть и другие решения, предложенные независимыми исследователями. Одно из таких решений было создано учеными из Стэнфорда во главе с Эндрю Энджи, достаточно известным в своей сфере специалистом по искусственному интеллекту.
Читать полностью »