Архив июня 2022 - 24

В институте развития интернета (ИРИ) рассказали, что финансирования разработчиков видеоигр почти не происходит. Из 13 миллиардов рублей за 2020-2021 годы на гранты по направлению «ПО и игры» было потрачено только 123 миллиона.

Компания Microsoft прокомментировала ситуацию со своей деятельностью в России. 

Разбираем бобров: дикие инженеры-терраформеры в действии - 1
Вот этих зверьков мы почти уничтожили к началу двадцатого века. А сейчас наш герой вполне спокойно грызёт знаки под Екатеринбургом.

Представьте себе здоровенного мыша массой чуть побольше косули, отлично приспособленного к воде. Добавьте здоровенные зубы, укреплённые металлом (точнее ферригидритом) и нехилые инженерные навыки в плане «как пустить под откос поезд» или «как затопить какую-нибудь деревню». Знакомьтесь, это бобр. Бобры круты тем, что терраформируют окружающий ландшафт и превращают планету вокруг в безопасную для себя.

Вот конкретный пример. На реке Чёрной как-то завелась пара бобров. Сначала они провели изыскательные работы. Берег оказался низковат для них, то есть не очень удобен для операционных баз и главного укрепления. Бобры взяли и переложили русло реки. Потом построили хатку по всем правилам фортифкации. К ней сразу — плотину рядом. Удобно же поднять уровень воды так, чтобы вход стал подводный! Волк такое не поддерживает.

Потом окопали хатку рвами и повалили несколько деревьев, чтобы они образовали засеку. Сделали отводной канал-предохранитель на случай половодья, чтобы плотину не смыло. Запасли на зиму около тонны веток на дне образовавшегося пруда. И пошли дремать.

Зимой река замёрзла. Наши герои просто выплывали прямо из хатки под лёд, брали ветку со дна из своего запаса и возвращались хрумкать.

Разбираем бобров: дикие инженеры-терраформеры в действии - 2

На этом терраформирование не кончилось. Конечно же, на следующий год на базе надо было построить ещё несколько типов инженерных сооружений.
Читать полностью »

Уникальность Twitter состоит в ограниченном количестве символов: даже несмотря на то, что с оригинальных 140 символов размер сообщения впоследствии увеличился вдвое, это по-прежнему куда меньше, чем в других социальных сетях. Поэтому раскрывая какую-то тему, пользователи вынуждены делать треды (серии сообщений) или «уходить» в комментарии. Но скоро это может измениться. Компания уже тестирует функцию «Заметки» (Notes), которая позволит писать целые мини-статьи.

Холдинг «Росэлектроника», входящий в состав Ростеха, разработал разработал дистанционную систему доступа по биометрическим параметрам человека. Об этом рассказала пресс-служба госкорпорации.

Специализирующаяся на кибербезопасности компания Group-IB, поделилась интересной статистикой, собранной по деятельности русскоговорящей группы хакеров-вымогателей Conti.

Команда Яндекса выложила в открытый доступ нейросеть YaLM 100B для создания и обработки текстов на русском и английском языках.

Компания Sony официально запустила новую платную подписку PlayStation Plus для европейского региона.

Sony запустила новую подписку PlayStation Plus в Европе. Цены для Украины

Читать полностью »

Яндекс выложил YaLM 100B — сейчас это крупнейшая GPT-подобная нейросеть в свободном доступе. Вот как удалось её обучить - 1
Больше примеров — в конце поста

В последние годы большие языковые модели на архитектуре трансформеров стали вершиной развития нейросетей в задачах NLP. С каждым месяцем они становятся всё больше и сложнее. Чтобы обучить подобные модели уже сейчас требуются миллионы долларов, лучшие специалисты и годы разработки. В результате доступ к современным технологиям остался лишь у крупнейших IT-компаний. При этом у исследователей и разработчиков со всего мира есть потребность в доступе к таким решениям. Без новых исследований развитие технологий неизбежно снизит темпы. Единственный способ избежать этого — делиться с сообществом своими наработками.

Год назад мы впервые рассказали Хабру о семействе языковых моделей YaLM и их применении в Алисе и Поиске. Сегодня мы выложили в свободный доступ нашу самую большую модель YaLM на 100 млрд параметров. Она обучалась 65 дней на 1,7 ТБ текстов из интернета, книг и множества других источников с помощью 800 видеокарт A100. Модель и дополнительные материалы опубликованы на Гитхабе под лицензией Apache 2.0, которая допускает применение как в исследовательских, так и в коммерческих проектах. Сейчас это самая большая в мире GPT-подобная нейросеть в свободном доступе как для английского, так и для русского языков.

В этой статье мы поделимся не только моделью, но и нашим опытом её обучения. Может показаться, что если у вас уже есть суперкомпьютер, то с обучением больших моделей никаких проблем не возникнет. К сожалению, это заблуждение. Под катом мы расскажем о том, как смогли обучить языковую модель такого размера. Вы узнаете, как удалось добиться стабильности обучения и при этом ускорить его в два раза. Кстати, многое из того, что будет описано ниже, может быть полезно при обучении нейросетей любого размера.
Читать полностью »

Команда Telegram запустила на днях платную подписку Telegram Premium, которую российские пользователи могут получить по цене 300 рублей в месяц. Однако для пользователей платной подписки вскрылись подводные камни.


https://ajax.googleapis.com/ajax/libs/jquery/3.4.1/jquery.min.js