Что такое RAG?
RAG (retrieval-augmented generation, генерация с дополненной выборкой) это подход, при котором ИИ-система сначала ищет нужные фрагменты в ваших документах, а потом языковая модель пишет ответ по ним. Термин появился в научной статье исследователей Facebook AI Research в 2020 году.
Ещё называют: генерация с дополненной выборкой
Зачем это компании
Если нужен ИИ-помощник, который знает ваши товары, регламенты и договоры, RAG обычно приводит к нему быстрее, чем дообучение модели. Ответ может ссылаться на документ-источник, и сотрудник его проверит. Изменился прайс или регламент: вы обновляете индекс, а не модель.
1Как работаетДокументы делят на фрагменты с эмбеддингами, и к каждому вопросу в промпт добавляют самые близкие по смыслу.
2RAG и дообучениеRAG даёт модели факты в момент вопроса, а дообучение меняет манеру ответа, но не знание свежих фактов.
3Качество начинается с документовУстаревшие, дублирующиеся или плохо отсканированные документы дают неверные ответы.
ПримерДистрибьютор оборудования в Караганде накопил инструкции, прайсы и переписку поддержки на русском и казахском. С RAG помощник поддержки находит по каждому обращению нужный раздел инструкции и прошлые решения и готовит черновик ответа со ссылками на них. Сотрудник проверяет черновик перед отправкой.
По теме
Что мы делаем
Связанные термины
LLMБольшая языковая модель: модель ИИ, обученная на огромном объёме текстов понимать и писать текст.Векторная база данныхБаза данных, которая хранит тексты и изображения как векторы и ищет по смыслу, а не по точным словам.ИИ-агентПрограмма на языковой модели, которая сама планирует шаги задачи и выполняет их в ваших системах.Галлюцинация ИИКогда модель ИИ уверенно сообщает ложный или выдуманный факт так, будто это правда.Fine-tuningДообучение готовой модели ИИ на ваших примерах, чтобы она решала одну задачу заданным образом.
Нужно это внедрить?
Опишите задачу, назовём объём, цену и срок. Цена фиксируется в договоре.
Ваш выборРазработка ИИ-агентовот 480 000 ₸
Заявку получает команда, ответим в рабочее время.Цена фиксируется в договоре до оплаты.Созвон, только если попросите.