Недавно мы рассказывали о последнем поколении процессоров Intel Xeon (кодовое название Sapphire Rapids). Мы говорили об их новых аппаратных возможностях, ориентированных на ускорение задач глубокого обучения, разбирались с тем, как использовать их для ускорения распределённого дообучения трансформеров, занимающихся обработкой естественного языка, как применять их для ускорения работы таких моделей.
Рубрика «Программирование» - 26
Ускорение работы моделей Stable Diffusion на процессорах Intel
2023-04-10 в 9:31, admin, рубрики: python, stable diffusion, Блог компании Wunder Fund, машинное обучение, ПрограммированиеПишем свой личный Duolingo на минималках
2023-04-09 в 16:09, admin, рубрики: python, английский язык, изучение языков, иностранные языки, ПрограммированиеПривет, меня зовут Емельянов Михаил, я Python-программист и я хотел бы показать вам свой небольшой «проект выходного дня» — Flywheel, микро-платформу для изучения иностранных языков — смесь Duolingo и Anki, программу, которая может помочь вам правильно писать на английском. Flywheel доступен в исходниках, лежит на GitHub.
Как вы, возможно, знаете, обобщенное знание иностранного языка можно разложить на четыре относительно независимые составляющие: чтение, письмо, слушание и говорение. К сожалению, тренировка одной из этих способностей не будет напрямую отражаться на остальных компонентах, поэтому, например, развивая навык чтения, мы достаточно опосредованно влияем на навык письма. Flywheel — «точилка» именно для письменного английского.
Если вы когда-нибудь пользовались Duolingo, то имеете представление о формате, в котором будет идти обучение. Последовательность проста: вот тебе фраза, переведи её на другой язык; программа запомнит, когда ты в последний раз переводил ту или иную фразу и насколько успешно у тебя это получилось; в зависимости от правильности ответа будет определено время, когда тебе нужно задать эту же фразу еще раз. В целом, на мой взгляд, как сам Duolingo, так и используемый им подход — просто гениальны. Но… Есть нюансы, которые несколько портят впечатления от процесса учёбы, и именно для их устранения я и задумал Flywheel.
Строка на 1,5 гигабайта
2023-04-09 в 9:35, admin, рубрики: java, json, анализ дампов, дамп памяти, оптимизация ресурсов, отладка, потребление памяти, Программирование, Серверная оптимизация
На своей предыдущей работе я занимался поддержкой Java-сервиса, обеспечивавшего удалённую функциональность UI подобно RDP или Citrix. Этот сервис был устроен на основе сессий, состоявших из взаимосвязанных объектов Java, которые должны были очищаться или после выхода пользователя, или после истечения заданного таймаута.
На этапе планирования нагрузок мы обнаружили существенные траты памяти, о причинах которых я бы хотел рассказать в этой статье.
Читать полностью »
Какой ты нафиг программист?
2023-04-08 в 18:39, admin, рубрики: kandinsky art, Карьера в IT-индустрии, почему я не программист, Программирование, программист, программное средневековьеВыражение числа в виде букв
2023-04-07 в 21:32, admin, рубрики: C#, idle, unity, игры, преобразования, Программирование, разработка игр, числа
Разрабатывая Idle игры часто сталкиваются с тем что нужно выразить число через его сокращенную форму. Если в игре используются маленькие числа (хотя бы до 20 знаков), то такие числа в принципе можно выражать в их существующем виде. Для примера в проекте unity создам отображение монет и кнопку, которая будет умножать число монет на некое значение:
Наиболее распространённые мифы о Scala: сеанс с разоблачением
2023-04-07 в 12:32, admin, рубрики: java, scala, Блог компании Издательский дом «Питер», Программирование, функциональное программирование
В этом посте развенчивается ряд очень существенных мифов о языке Scala, которые, как нам известно, циркулируют в блогосфере. Для каждого развенчанного мифа мы представим альтернативную точку зрения, подкреплённую данными из надёжных источников. Читать полностью »
Остановись, мгновенье. Медленное программирование — тренд для уставших разработчиков
2023-04-07 в 5:37, admin, рубрики: gtd, slow life, slow programming, Карьера в IT-индустрии, медленная жизнь, медленное программирование, минимализм, Программирование, работа для души, удовольствие от работы, управление разработкойКак же хочется иногда остановить дикую гонку разработки и получить удовольствие от вдумчивого, размеренного написания кода. Как же не хватает времени на обдумывание алгоритмов и исследование перспективных архитектурных вариантов системы. Как же тянет протянуть руку к стоп-крану и остановить взбесившийся конвейер по штамповке недолговечных решений.
Старый софт, LPT и современное железо
2023-04-07 в 4:17, admin, рубрики: avr, ECP, epp, lpt, orange, Программирование, программирование микроконтроллеров, реверс-инжиниринг, системное программированиеВводная
В своей прошлой статье я не был полностью честен. Перед тем, как получить рабочее устройство, я много раз проверял как мой код работает, перезаписывая его на многоразовую флеш AT28С64. И с самого начала знал что отлаживаться придется на железе, а потому встал вопрос программатора параллельных EEPROM.
Некогда крайне востребованные, а ныне необходимые только для редких специфических задач, эти программаторы стоят неприлично дорого (на этот раз серьезно). Есть бюджетные варианты, например собрать такой программатор на основе ардуины (но не весело) или быстро изобрести решение самому (но лень писать софт).
Кидалово mytonwallet.io. Почему не стоит делать тестовые задания
2023-04-05 в 19:40, admin, рубрики: mytonwallet, Карьера в IT-индустрии, кидалово, обман, Программирование, трудоустройство в itПредставьте себе гипотетическую ситуацию, когда вы оказались в другой стране и без работы, а 22го сентября к вам домой приходили полицаи и интересовались, где вы находитесь, и возращаться немного сыкотно, хоть и ничего незаконного не делал. В такой ситуации при поиске работы можно совершить такую глупость, как взяться за большое тестовое задание, ведь и вроде вакансия хорошая и за него обещали заплатить. Что же может пойти не так.
6 марта мне написала рекрутер:
Как написание кода с помощью машинного обучения всё (не)изменит
2023-04-05 в 8:35, admin, рубрики: Алгоритмы, искусственный интеллект, Исследования и прогнозы в IT, машинное обучение, никто не читает тэги, Программирование, шок срочно в номер
Астрологи объявили неделю (месяц?, год?) кухонной аналитики по AI и ML на Хабре. Настало время для этой статьи, которую я писал два года назад. И вот что удивительно — она должна была устареть, однако не устарела.
Основной урок истории заключается в том, что уроками истории, как правило, пренебрегают. Этот афоризм описывает в первую очередь политику, но вполне неплохо применим и к технологиям.
Есть много технологий, поменявших мир, но поменяли они его не за счёт более быстрых лошадей, как говорил известный инноватор Форд. Новая страница истории начинается, когда технологии начинают решать задачу новым способом. Порой даже полностью изменяя её, как это было с лошадьми и автомобилями.
Так что же такого революционного дали нам нейросети применительно к программированию?
Читать полностью »