Одна из основных проблем использования больших языковых моделей (LLM) в бизнесе заключается в том, что LLM склонны к галлюцинациям. Как можно доверить своих клиентов чат-боту, который может слететь с катушек и в любой момент сказать что-то неуместное? Или как можно доверять корпоративному AI-ассистенту, если он рандомно придумывает факты?
Рубрика «галлюцинации»
Галлюцинации в LLM и методы борьбы
2024-12-06 в 8:38, admin, рубрики: llm, rag, галлюцинации, дообучениеЧто побуждает LLM врать и как этого избежать в своих продуктах
2024-12-06 в 8:38, admin, рубрики: llm, rag, галлюцинации, дообучениеОдна из основных проблем использования больших языковых моделей (LLM) в бизнесе заключается в том, что LLM склонны к галлюцинациям. Как можно доверить своих клиентов чат-боту, который может слететь с катушек и в любой момент сказать что-то неуместное? Или как можно доверять корпоративному AI-ассистенту, если он рандомно придумывает факты?
Почему галлюцинируют нейросети [и что с этим делают]
2024-11-04 в 15:05, admin, рубрики: галлюцинации, ИИ, ИИ и машинное обучение, нейросеть![Почему галлюцинируют нейросети [и что с этим делают] - 1](https://www.pvsm.ru/images/2024/11/04/pochemu-gallyuciniruyut-neiroseti-i-chto-s-etim-delayut.png "Почему галлюцинируют нейросети [и что с этим делают] - 1")
ChatGPT и Gemini не могут справиться даже с простой математической задачкой на логику
2024-10-08 в 11:15, admin, рубрики: AI, chatgpt, comedy, gemini, humor, jokes, галлюцинации, галлюцинирование нейросетей, комедия, юморСегодня увидел на репетиторском канале (https://t.me/mimimaths) простенькую задачку на логику. И решил попробовать скормить ее ChatGPT и Gemini. Просто интереса ради. Вспомнил, что когда вышла ChatGPT 4-o в демках показывали, как она якобы может заменить учителей.
Действительно ли большие языковые модели галлюцинируют? Эксперимент
2024-08-28 в 11:09, admin, рубрики: GPT-2, llm, большие языковые модели, галлюцинации, искусственный интеллект, машинное обучение, обучениеСуществует мнение, что основная проблема больших языковых моделей — в склонности к галлюцинациям. Когда нейросеть генерирует текст с информацией, не связанной с запросом.
Меня зовут Полина, я инженер по разработке ПО искусственного интеллекта в YADROЧитать полностью »
История о том, как Google подсматривал за нашим сайтом и галлюцинировал
2024-01-11 в 23:23, admin, рубрики: Google Safe Browsing, блокировка сайтов, галлюцинации
В 2023-ем году мы узнали, что нейросети могут галлюцинировать. На первый взгляд, это довольно забавное и пока что безобидное явление. Но в этой короткой статье я расскажу, как я столкнулся с галлюцинациями самого Google, и как это чуть не угробило стартап, в котором я работаю.
Генеративный ИИ — это просто «замыленный JPEG интернета», который убедительно косит под интеллект
2023-11-23 в 5:44, admin, рубрики: chatgpt, gpt, jpeg, llm, галлюцинации, генеративные модели, ИИ, искусственный интеллект, языковые моделиИИ чат‑боты любят ловить глюки и выдавать всякую чушь. Так массово, что словом 2023 года признали «галлюцинировать». В чем причина такого явления? Является ли генеративный ИИ интеллектом (спойлер — и да, и нет)? И что общего у ChatGPT и копировального аппарата Xerox? Разбираемся, осмысляя базовую логику работы языковых моделей.
Небольшое вступление или "в чем суть проблемы?"
Кебриджский словарь признал Читать полностью »
Раскручивая спираль: математика и галлюцинации
2018-10-17 в 12:00, admin, рубрики: v1, галлюцинации, зрительная кора, математика, мозг, наркотики, поле зренияПри попытке представить себе галлюцинации, вызванные наркотическими веществами, на ум сразу приходят закрученные, спиральные психоделические формы, напоминающие туннельное зрение. Но подобные геометрические структуры могут вызывать не только галлюционгенные наркотики вроде LSD, каннабиса или мескалина. Люди рассказывали о возникновении таких видений в момент, когда они находились при смерти, во время таких болезненных состояний, как эпилепсия и шизофрения, в результате сенсорной депривации, или даже после простого надавливания на глазные яблоки. Подобные геометрические галлюцинации так распространены, что за последнее столетие учёные начали задаваться вопросом – не могут ли они рассказать нам что-то фундаментальное о строении нашего мозга. И, судя по всему, так и есть.
Константы формы, созданные на компьютере. Два верхних изображения имитируют воронку и спираль, возникающие после приёма LSD. Нижнее левое – соты, создаваемые марихуаной. Нижнее правое – паутина.
Читать полностью »
Иллюзии мозга. Первая в мире универсальная галлюцинация
2016-10-20 в 9:37, admin, рубрики: галлюцинации, глюки, иллюзии, мозг, Научно-популярное, метки: галлюцинации, глюки
Здоровые добровольцы видят светло-серые круги, которые вращаются внутри белого кольца. В одном направлении, потом в другом. Галлюцинация на удивление устойчиво и стандартно проявляется у большинства здоровых людей
Как известно, визуальные галлюцинации возникают в мозгу как здоровых, так и психически больных людей. Например, при сильной усталости, употреблении алкоголя, некоторых психотропных веществ, при депривации сна, слепоте, мигренях. Иногда они возникают просто так, без особой причины.
Читать полностью »
Gchat был мессенджером будущего, но Google этого не понял
2016-05-29 в 15:08, admin, рубрики: aim, Allo, duo, Gchat, gmail, google talk, Habgouts, ICQ, slack, spaces, галлюцинации, машинное обучение, Системы обмена сообщениями, метки: Gchat
Эх, старые добрые дни
В последнее время все говорят о Slack. Приложение для чата, которое нацелено главным образом на офисное использование и продуктивность, простое, хорошо спроектированное, удобное в использовании и мощное. Slack — это ещё и компания, по которой все сходили с ума в 2015 году (компания года по версии журнала Inc.). Нравится вам их программа или нет, но пришло время признать одну вещь: Slack — это в точности Gchat.
Читать полностью »