Вот часто, когда слышишь про математику в ML, звучат только байесовские методы, производные, интерполяции, а еще иногда тензоры... Но математический аппарат в машинном обучении может уходить глубоко в корни даже, как кажется, совершенно фундаментальных и абстрактных направлений этой науки.
Метод генерации с дополнением извлечения (RAG) стал популярным способом связывания больших языковых моделей (LLM) с внешними источниками знаний. Системы RAG обычно используют модель эмбеддингов для кодирования документов в корпусе знаний и выбирают те, которые наиболее соответствуют запросу пользователя.
Дисклеймер 1: это вольный перевод заметкиЧитать полностью »
Что, если бы Толстой решил бы написать “Войну и мир” в 21 веке, и вместо чернил и кипы бумаг он зашел в браузер и вбил незамысловатый запрос “Какой инструмент для автора мне выбрать?”. Возможно, если бы он столкнулся с ИИ и тем же ChatGPT, то роман бы сократился на пару сотен страниц, не потеряв своей сути.
Красные карлики — наиболее распространённый тип звёзд в нашей Галактике. Это не самые яркие объекты: они меньше нашего Солнца и светят слабее. Однако большинство планетных систем обнаружено именно вокруг звёзд этого класса.
В мире искусственного интеллекта произошло нечто невероятное - компания Pika Labs представила обновление своей нейросети для генерации видео, Pika 1.5. Это обновление не просто улучшает качество генерируемого контента, оно буквально взрывает наши представления о том, на что способен ИИ, и эта игра слов в заголовке не спроста, а потому что в новом обновлении вы можете взорвать и расплющить все что угодно!
Группа исследователей ИИ описала свой обширный эксперимент с участием наиболее известных LLM. Они сделали вывод, что все модели драматически плохо решают задачи на рассуждение со здравым смыслом, которые легко решают обычные люди.
Интеллектуальные способности LLM сильно преувеличены, а тесты не отражают глубину реальных проблем.
Неужели всё так действительно грустно?
Не претендуя на всеобщность, я решил провести аналогичное мини исследование, только в ограниченном масштабе, чтобы подтвердить или опровергнуть этот пугающий вывод пусть и в одном частном случае.
Читать полностью »
Высшее образование сталкивается с серьезным вызовом в лице нейросетей и повального их использования для написания научных работ. Однако система адаптируется и вместо того, чтобы запрещать использование агентов искусственного интеллекта, ученые предлагают сделать шаг назад и внедрить в обучение инструмент, который считался несколько устаревшим.
Современные генеративные нейросети, такие как Stable Diffusion или FLUX, создают изображения по текстовым описаниям, используя механизм внимания — attention. Этот механизм помогает моделям как выделять важные части информации, так и связывать промпт с изображением, чтобы в итоге мы получили то, что хотели.
