Рубрика «Промт-инъекции»
Яндекс.Вброс или ИИ для фейков
2025-04-18 в 13:19, admin, рубрики: Безопастность, взлом, нейронные сети, нейросети, промпт-инжиниринг, Промт-инъекции, промтинг, этика
LLaMator: Red Teaming фреймворк для тестирования уязвимостей LLM
2024-10-18 в 10:16, admin, рубрики: framework, llm, red teaming, джейлбрейкинг, Промт-инъекции, Уязвимости LLM, Чат-ботыПривет! В этом материале мы, команда LLaMaстеры — студенты 1 курса магистратуры ИТМО AI Talent Hub, представляем фреймворк LLaMator, победивший на хакатоне AI Product Hack в кейсе от компании Raft. Наша задача — создать инструмент для тестирования уязвимостей интеллектуальных систем, например, чат-бота для консультирования клиентов автосалона, на базе больших языковых моделей (LLM).