Рубрика «llm» - 9

Введение

За последние годы качество LLM моделей сильно выросло, методы квантизации стали лучше, а видеокарты мощнее. Тем не менее качество генерации все еще напрямую зависит от размера весов и, как следствие, вычислительной сложности.
Кроме того, генерация текста авторегрессионна - токен за токеном по одному, потому ее сложность зависит от размера контекста и количества генерируемых токенов.

Но генерация текста не всегда имеет однородную сложность, так же как мы во многом мыслим идеями, а слова произносим “на автомате”. В статье обсудим алгоритмы, позволяющие использовать эту неоднородность для ускорения.

Читать полностью »

Почему OpenAI откладывает релиз ChatGPT-5? Все дело в недостатке данных - 1

Новый проект OpenAI в области искусственного интеллекта, получивший кодовое название Orion, столкнулся с множеством проблем. Он отстает от графика и требует огромных затрат. Неясно, когда и будет ли он работать. Возможно, в мире недостаточно данных, чтобы сделать его достаточно умным.

Дисклеймер: это вольный перевод Читать полностью »

AI-решения сейчас повсеместно, но всё ещё есть места, где их нет. Например в вашем пет-проекте (возможно).

В статье я поделюсь опытом, как легко интегрировать LLM и сразу получить от этого пользу, встраивая результаты от LLM в дальнейший пайплайн и закладывая фундамент под дальнейшее развитие.

Опыт интеграции LLM и классического ML в пет-проект про поиск домашних животных - 1

Читать полностью »

Привет! В этом посте мы поговорим подробно про RAG на каждом его этапе, его текущее развитие на момент написания статьи и про другие модификации. В прошлой статье я писал про промптинг, советую глянуть 👀

Основы и продвинутые техники RAG - 1

Интро

Читать полностью »

Я инженер-программист с общим опытом больше 15 лет в разных областях. Сейчас специализируюсь на веб разработке, это моя профессия и основное хобби. Есть большой опыт применения ChatGPT, включая o1 и Claude AI на практике в своей работе. Я рассуждаю здесь с позиции этого опыта и логики. Сразу хочу сказать, что я не боюсь, что ИИ меня заменит, а наоборот мечтаю об этом, потому что у меня есть много нереализованных идей, требующих много времени на реализацию. И на этих же идеях, кстати, можно и заработать. Когда инженер получает инструмент заменяющий его, он не теряет работу, а становится инженером следующего уровня.


Читать полностью »

GraphRAG предоставляет «граф знаний» LLM. В отличие от текстовых документов, эти структуры данных четко отображают взаимосвязи между объектами.

GraphRAG: Повышение точности и полноты GenAI - 1

Компании применяют генеративный ИИ в широком спектре функций, включая поддержку клиентов, продажи, юридические услуги, маркетинг и многие другие. По состоянию на 2024 год Читать полностью »

Коллеги, не ругайтесь и не пугайтесь - не собираюсь доказывать существования души ни в роботах ни в человеках :) Для нас такой вопрос требует определения "души" - на чем дискуссия закончится не начавшись.

Речь о другом - моя супруга "принесла" этот вопрос с дружеских посиделок "гуманитариев". Супруга - музыкант, а её знакомая - художник. И вот знакомая завела речь, мол "Все эти модные Нейросети... они творят всякие чудеса... может они уже Одушевлённые?" :)

Читать полностью »

— Так-с-так-с, открытки с Дедом Морозом: сделаю одну!— А ты уже сгенерировал открытку с Дедом Морозом?(источник)

— Так‑с‑так‑с, открытки с Дедом Морозом: сделаю одну!
— А ты уже сгенерировал открытку с Дедом Морозом?
(источник)

Читать полностью »

Я задал следующий вопрос наиболее популярным LLM.

Сделай прогноз на 2025 год.
Какие существенные изменения произойдут в области разработки и внедрения систем ИИ по сравнению с текущим уровнем и какие принципиально новые уровни будут достигнуты. Как в связи с этим изменится наша жизнь. Ответ должен быть конкретным и реалистичным.

Читать полностью »

https://ajax.googleapis.com/ajax/libs/jquery/3.4.1/jquery.min.js