Большие языковые модели где только не применяют: генерируют внешний вид автомобилей, домов и кораблей, саммаризируют круглые столы и конференции, придумывают тезисы к статьям, рассылкам и презентациям. Но при всех «плюшках» от внедрения ИИ, не стоит забывать про безопасность. Большие языковые модели атакуют разнообразными изощрёнными способами. В топе новостей о нейросетях — многомиллионные инвестиции в средства защиты от промпт-инъекций. Поэтому поговорим о том, какие угрозы существуют и почему инвесторы платят большие деньги за создание таких бизнесов. А во второй части статьи расскажу, как от них защищаться.
Рубрика «bias»
Обзор уязвимостей для LLM. Часть 1. Атака
2025-01-05 в 13:55, admin, рубрики: bias, gpt-4, refusal training, sota, атаки, дипфейки, подмена номера, промпт-инъекции, промпты, языковые моделиТы мог бы стать спортсменом, если бы родился в другой день. Что такое Relative Age Effect?
2023-02-23 в 13:20, admin, рубрики: bias, Relative Age Effect, аналитика, визуализация данных, Инфографика, исследование, конкуренция, Научно-популярное, предвзятость, спорт, справедливость, статистика, Статистика в IT, футболЧто делает перспективного ребенка из местной спортивной секции чемпионом мира по футболу, олимпийским призером или обладателем Кубка Стэнли?
Одни ответят талант. Без таланта далеко не уедешь. К пяти годам Тайгер Вудс появился в главном журнале про гольф и в нескольких телевизионных шоу, а Майкл Фелпс вышел в финал Олимпиады 2000 в пятнадцать ¹. Другие назовут упорный труд. И тоже будут правы.
Но что если есть и другая причинаЧитать полностью »