Рубрика «нейросети» - 32

Описание процессов машинного перевода основанного на базе правил (Rule-Based), машинного перевода на базе фраз (Phrase-Based) и нейронного перевода

image

В этой публикации нашего цикла step-by-step статей мы объясним, как работает нейронный машинный перевод и сравним его с другими методами: технологией перевода на базе правил и технологией фреймового перевода (PBMT, наиболее популярным подмножеством которого является статистический машинный перевод — SMT).

Результаты исследования, полученные Neural Machine Translation, удивительны в части того, что касается расшифровки нейросети. Создается впечатление, что сеть на самом деле «понимает» предложение, когда переводит его. В этой статье мы разберем вопрос семантического подхода, который используют нейронные сети для перевода.

Давайте начнем с того, что рассмотрим методы работы всех трех технологий на различных этапах процесса перевода, а также методы, которые используются в каждом из случаев. Далее мы познакомимся с некоторыми примерами и сравним, что каждая из технологий делает для того, чтобы выдать максимально правильный перевод.
Читать полностью »

Исторически сложилось так, что наибольшего успеха глубокое обучение достигло в задачах image processing – распознавания, сегментации и обработки изображений. Однако не сверточными сетями едиными, как говорится, живет наука о данных.

Мы попробовали составить гайд по решению задач, связанных с обработкой речи. Самой популярной и востребованной из них является, вероятно, распознавание того, что именно говорят, анализ на семантическом уровне, но мы обратимся к более простой задаче – определению пола говорящего. Впрочем, инструментарий в обоих случаях оказывается практически одинаков.

Случайный лес vs нейросети: кто лучше справится с задачей распознавания пола из аудио (ч.1) - 1Читать полностью »

Ученые придумали метод сокращения энергопотребления нейросетей для использования на мобильных платформах - 1

Прорыв последних лет систем искусственного интеллекта в областях автономного вождения, распознавания речи, машинного зрения и автоматического перевода стал возможен благодаря развитию искусственных нейронных сетей. Но для их запуска и обучения необходимо много памяти и энергии. Поэтому часто ИИ-компоненты работают на серверах в облаке и обмениваются данными с настольными или мобильными устройствами.

Нейронные сети состоят из тысяч простых, но тесно взаимосвязанных узлов обработки информации, обычно организованных в слои. Нейросети различаются числом слоев, соединений между узлами и узлов в каждом слое.

Соединения между узлами связаны с ними весами, которые определяют, насколько выход узла будет способствовать вычислению следующего узла. Во время обучения, в котором сети представлены с примерами вычислений, которые они учатся выполнять, эти веса постоянно корректируются, пока результат последнего слоя сети не будет соответствовать результату вычисления.

Какая сеть будет более энергоэффективной? Мелкая сеть с большими весами или более глубокая сеть с меньшими весами? Многие исследователи пытались дать ответ на эти вопросы. В последнее время основная активность в сообществе глубокого обучения была направлена на разработку эффективных нейронных сетевых архитектур для платформ с ограниченными вычислительными возможностями. Однако большинство этих исследований было сосредоточено либо на сокращении размера модели, либо вычислений, в то время как для смартфонов и многих других устройств потребление энергии имеет первостепенное значение из-за использования батарей и ограничений по теплопакету.

Исследователи из Массачусетского технологического института (МТИ) под руководством доцента кафедры электротехники и информатики Вивьен Сэ (Vivienne Sze) разработали новый подход к оптимизации сверточных нейронных сетей, который ориентирован на минимизацию энергопотребления с использованием нового инструмента оценки расходования энергии. Читать полностью »

Нейросети диагностируют проблемы с сердцем более точно, чем врачи - 1

Человеческий фактор часто становится причиной возникновения проблем. Это касается производства, бытовых ситуаций, вождения и, конечно же, медицины. Ошибка врача может означать потерю здоровья или даже жизни пациентом, а врачи ошибаются не так уж и редко. Даже профессионал высшей пробы может делать ошибки — ведь специалист может быть уставшим, раздраженным, концентрируясь на проблеме хуже, чем обычно.

В этом случае на помощь могут прийти машины. Та же когнитивная система IBM Watson, например, вполне неплохо управляется с работой в медицинской сфере (онкология, чтение рентгеновских снимков и т.п.). Но есть и другие решения, предложенные независимыми исследователями. Одно из таких решений было создано учеными из Стэнфорда во главе с Эндрю Энджи, достаточно известным в своей сфере специалистом по искусственному интеллекту.
Читать полностью »

Как искусственный интеллект поможет спасти мир? - 1

В 2100 году многие наши страхи, описанные как футурологами, так и фантастами, могут стать реальностью. Земля разрушена, Тихий океан покрыт слоем пластика. Люди погрязли во вражде, разрыв между бедными и богатыми продолжает расти.

Представим, что в 2100 году машины стали умными, действительно умными и захватили мир. После тщательного анализа взаимоотношений человечества и окружающей среды компьютерные правители решили избавиться от людей, прежде, чем люди уничтожат Землю окончательно. В общем, мрачноватая картинка, хотя к такому сценарию и склоняются многие футурологи и писатели-фантасты. Конечно, все может быть не так страшно. Так чего можно ожидать от ИИ?
Читать полностью »

AlphaGo против Кэ Цзе: оценки профессиональных игроков в го - 1В марте 2016 года один из сильнейших из людей игроков в го впервые проиграл компьютерной системе, играя без форы. До этого момента лучшем достижением считали выигрыш при 4 камнях форы, а игра на равных была ещё далеко — возможно, где-то в следующем десятилетии. Внезапно на сцене появилась система AlphaGo от британской DeepMind, которая со счётом 4:1 обыграла одного из самых известных игроков последних лет Ли Седоля.

Год назад южнокорейский игрок 9-го профессионального дана проиграл компьютерной системе подразделения Google, и в восприятии многих го перешла в разряд игры, в которую машины играют сильнее лучших из людей. Больше AlphaGo почти никак не «светилась». В апреле этого года DeepMind разразилась объявлением: AlphaGo сыграет с игроком первой строчки рейтингов Кэ Цзе. Сам он сообщал о намерении сыграть против ИИ ещё летом прошлого года, но лишь в этом году была объявлена точная дата матча. DeepMind пообещала, что программа дополнительно сыграет против сразу пяти мастеров.

Игры прошли в запланированные дни, и их результат окончательно показал, что уровень AlphaGo значительно выше человеческого. Та четвёртая игра матча Ли Седоль — AlphaGo, наверное, останется последней победой человека над этим ИИ: по завершении игр разработчики заявили об уходе системы из го.

Мы обсудили с двумя профессиональными игроками уровень этой версии программы, а также будущее отношений человека и систем компьютерного го.

На фото: почти готовые признать поражение пять мастеров го недоумевают — система AlphaGo, их оппонент, начала играть лениво, словно предчувствуя победу.
Читать полностью »

Полиция Великобритании будет принимать решения о содержании подозреваемых под стражей при помощи ИИ - 1

Полицейские английского города Дарем собираются использовать специализированную когнитивную систему для того, чтобы она помогала им принимать важное решение — должен ли подозреваемый содержаться под стражей или его можно отпустить под залог. Система, которая разработана специально для полиции, получила название Hart (Harm Assessment Risk Tool). Hart будет оценивать подозреваемых по достаточно простой системе рисков: низкий, умеренный и высокий риск совершения преступлений в будущем.

Сама система еще не используется в полной мере, полиция лишь тестирует некоторые ее возможности, чтобы посмотреть, насколько эффективно она может иметь дело с преступниками и преступлениями. Если все будет хорошо, то в течение нескольких последующих месяцев ее введут в строй. Hart можно использовать для решения и других вопросов. Например, для того, чтобы определить количество времени, необходимое для содержания подозреваемого под стражей, определения возможности отпустить его (или ее) под залог, плюс другие важные вещи.
Читать полностью »

Китайские ученые научили нейросеть понимать, что видит человек по сканам активности мозга - 1
Так выглядит аппарат фМРТ сканирования

Чтение мыслей — давнишняя мечта многих людей. Эта мечта отображена в огромном количестве научно-фантастических произведений, в фильмах и сказках. Но на самом деле чтение мыслей — сложная задача, для решения которой нужны современные технологии. И не только аппаратная часть, то есть «железо», но и программные платформы, а именно — нейросети.

Относительно недавно группа ученых научила нейросети определять, что видит человек по анализу фМРТ (Функциональная магнитно-резонансная томография) снимков. Это сложнейшая проблема, но, похоже, ученые из Китая ее успешно решили.
Читать полностью »

Нейрокурятник часть ноль. Или нейро- без курятника. Или как правильно закоптиться в нейросети.

image
Курочка снесла яичко. Сам процесс выглядит ужасно. Результат — съедобно. Массовый геноцид кур.
В этой статье будет описано:

  1. Где, как и почему можно получить небольшое качественное самообразование в сфере работы с нейросетями БЕСПЛАТНО, СЕЙЧАС и СОВСЕМ НЕ БЫСТРО;
  2. Будет описана логика рекурсии и будут порекомендованы книги по теме;
  3. Будет описан список основных терминов, которые нужно разобрать на 2-3 уровня абстракции вниз;
  4. Будет приведен ipynb-notebook, который содержит необходимые ссылки и базовые подходы;
  5. Будет немного своеобразного саркастичного юмора;
  6. Будут описаны некоторые простые закономерности, с которыми вы столкнетесь при работе с нейросетями;

Статьи про нейрокурятник

Заголовок спойлера

  1. Вступление про обучение себя нейросетям
  2. Железо, софт и конфиг для наблюдения за курами
  3. Разметка датасетов
  4. Параллельное участие в соревнованиях, визуализации внутренностей нейросетей, развитие архитектур моделей
  5. Работающая модель для распознавания кур в курятнике
  6. Бот, который постит события из жизни кур

Читать полностью »

Я обнаружил, что подавляющее большинство онлайновой информации об исследованиях в области искусственного интеллекта делится на две категории: первая рассказывает о достижениях непрофессиональной аудитории, а вторая — другим исследователям. Я не нашёл хорошего ресурса для людей с техническим образованием, которые не знакомы с более продвинутыми концепциями и ищут информацию для восполнения пробелов. Это моя попытка заполнить данную пустоту, предоставив доступные, но в то же время (относительно) подробные объяснения. Здесь я объясню научную статью Грейвса, Уэйна и Данихейки (2014) о нейронных машинах Тьюринга (NTM).

Изначально я не собирался рассказывать об этой статье, но я никак не мог понять другую интересную статью, о которой собирался рассказать. В ней как раз шла речь о модификации NTM, так что я решил убедиться, что полностью понимаю NTM, прежде чем двигаться дальше. Убедившись в этом, у меня появилось ощущение, что та вторая статья не слишком подходит для объяснения, а вот оригинальная работа по NTM очень хорошо написана, и я настоятельно рекомендую её прочитать.
Читать полностью »


https://ajax.googleapis.com/ajax/libs/jquery/3.4.1/jquery.min.js