Услуги
Не поиск, который выдаёт десять ссылок, а LLM-агент, который сам решает, где искать ответ: переформулирует запрос, открывает нужную страницу, смотрит на чертёж — и отвечает со ссылкой на источник. А если ответа в документах нет, прямо об этом говорит.
01 — Задача
Поиск по словам находит документ, а человеку нужен ответ. Сотрудник спрашивает «с каким моментом затягивать фланец», а в регламенте написано «усилие затяжки крепежа фланцевого соединения» — совпадения нет ни по одному слову, и поиск возвращает пустоту или сотню нерелевантных страниц.
Вторая проблема серьёзнее: значительная часть знаний компании вообще не лежит в виде текста. Это чертежи, схемы соединений, скриншоты интерфейсов и таблицы, вставленные картинкой. Для полнотекстового поиска такие страницы пустые.
И третья, из-за которой простые решения разваливаются на реальных документах: заранее неизвестно, сколько нужно посмотреть, чтобы ответить. На один вопрос хватает абзаца, на другой нужно открыть таблицу через двадцать страниц, на третий — взглянуть на чертёж. Фиксированный сценарий такое не покрывает.
02 — Подход
Классический RAG работает в один проход: нашли похожие фрагменты, отдали их модели, получили ответ. Это дёшево и хорошо работает на простой базе знаний. На технической документации ломается: фрагменты нашлись не те, ответ лежит на картинке, нужной таблицы вообще нет в выдаче — а второй попытки схема не предусматривает.
Классический RAG
Агент над документами
Плата за это — время и стоимость запроса: агент обращается к базе несколько раз вместо одного. Поэтому его проектируют с ограничениями, иначе он будет искать бесконечно. Уложить типовой вопрос в разумное время и есть основная инженерная работа на этом проекте.
03 — Как работает
/01
Первый запрос почти никогда не идеален: сотрудник спрашивает своими словами, а в документе те же вещи названы иначе, нередко на другом языке. Агент видит, что нашлось, и переспрашивает базу сам, пока не выйдет на нужное место.
/02
Фрагмента достаточно для ответа — отвечает сразу. Не достаточно — берёт страницу целиком или соседние. Ответ зависит от картинки — открывает картинку. Это решение принимает сам агент, а не фиксированный сценарий.
/03
Когда ответ зависит от того, что именно изображено — какие элементы выделены, куда идёт линия, какой размер проставлен на чертеже, — агент открывает сам рисунок и отвечает по нему, а не по подписи к нему.
/04
Каждое утверждение сопровождается ссылкой на документ, страницу и рисунок. Если ответа в документах нет, агент так и говорит и перечисляет, что искал. Отказ — правильный ответ, а не сбой.
04 — Объём работ
05 — Отличие
Большинство систем по документам работают только с текстом. Наш агент читает и изображения: какие модули на плате выделены заливкой, к какому клеммнику подключён датчик, в каком порядке идут элементы на панели, какой размер проставлен на чертеже.
Рисунок должен сначала найтись по смыслу вопроса, а потом быть прочитан как изображение — это две разные задачи, и обе решены. В ответе остаётся ссылка на конкретный рисунок: инженер видит первоисточник, а не пересказ.
Для технической документации это часто решает исход дела: в мануалах на оборудование значительная доля ответов существует только в графике.
06 — Применение
Мануалы оборудования, схемы, чертежи. Инженер спрашивает по-русски и получает ответ со ссылкой на страницу, вместо того чтобы листать тысячестраничный PDF.
Сотрудник узнаёт порядок действий, не отвлекая коллег. Особенно заметно там, где регламенты меняются чаще, чем их успевают перечитывать.
Оператор получает готовый ответ с источником и не ищет его по десяти статьям. Тот же индекс питает и автоответы клиентам.
Поиск по условиям, срокам и обязательствам в сотнях договоров — с обязательной ссылкой на пункт, потому что юристу нужен первоисточник.
Смета, спецификация, переписка по проекту в одном поиске. Ответ на вопрос «почему мы так решили» перестаёт зависеть от памяти конкретного человека.
Новичок задаёт вопросы агенту, а не старшему коллеге. Побочный эффект — видно, о чём спрашивают чаще всего и что стоит переписать в документации.
07 — Отрасли
Метод от отрасли не зависит: меняется состав документов и словарь, а не подход. Сложным корпус делает не тематика, а форма — сканы, чертежи, таблицы картинкой, десятки редакций одного регламента.
Схемы, даташиты, технические условия, руководства по сборке и наладке. Ответ чаще всего лежит на схеме, а не в тексте — это ровно тот случай, ради которого агент умеет смотреть на изображения.
Инструкции к оборудованию, стандартные операционные процедуры, регламенты и регистрационные досье. Требование к ссылке на первоисточник здесь не пожелание, а условие работы.
Нормативы, схемы подстанций, регламенты переключений, паспорта оборудования. Документы объёмные, редакции меняются, а цена неверного ответа высокая.
Проектная документация, своды правил, чертежи и спецификации. Один вопрос часто требует свести данные из чертежа и текстовой части.
Руководства по ремонту, каталоги деталей, бюллетени производителя. Механику нужен артикул и страница, а не пересказ.
Технологические карты, мануалы оборудования, инструкции по охране труда. Отсюда наш измеренный кейс — документация станков с ЧПУ.
08 — Данные
Если документы содержат коммерческую тайну, персональные данные или конструкторскую документацию, агента разворачиваем на вашем сервере: модель, индекс и база остаются внутри периметра, наружу не уходит ни один запрос. Это штатный вариант поставки, а не исключение, и он же закрывает требования 152-ФЗ к обработке персональных данных: если данные не покидают контур, вопрос о трансграничной передаче не возникает.
Облачные модели дешевле на старте и сильнее на сложных формулировках, поэтому для открытых данных мы часто начинаем с них. Выбор делается один раз на этапе пилота и потом не переделывается: от него зависит и подбор моделей, и требования к железу.
09 — Доказательство
Для промышленного холдинга мы с нуля разработали CNC-RAG — агента, который отвечает на вопросы по библиотеке технической документации станков с числовым программным управлением. Инженер задаёт вопрос по-русски, агент ищет в мануалах на английском, при необходимости открывает чертёж и подтверждает ответ ссылками на документ, страницу и рисунок.
Корпус — сотни мануалов, более 48 000 страниц. Значительная часть ответов существует только на чертежах и схемах, поэтому работа с изображениями была не дополнением, а основой проекта.
Качество мы измеряли на наборе из 375 вопросов с заранее зафиксированными эталонными ответами: 94,7% верных. Отдельно проверяли вопросы, ответа на которые в документах нет, — агент должен отказываться, и он отказывается. Весь стек умещается на одной видеокарте, ответ занимает около полуминуты.
Подробно о проекте10 — Порядок работы
Неделя 1
Смотрим, что за документы, в каком они виде и какие вопросы к ним задают. Собираем первый набор проверочных вопросов вместе с вашими специалистами.
Недели 2–4
Собираем работающего агента на части корпуса и показываем цифры на проверочном наборе. К концу этапа понятно, работает ли подход на ваших данных.
Месяцы 2–3
Полный корпус, интерфейс, права доступа, интеграции, регулярное обновление индекса, развёртывание в вашем контуре.
Дальше
Новые документы, новые типы вопросов, перезамеры качества после каждого изменения. Система, которую не поддерживают, устаревает вместе с документами.
11 — Бюджет
Оценку даём после разбора корпуса: без понимания, в каком виде документы, любая цифра будет выдумкой.
12 — Вопросы
Обычный RAG работает в один проход: нашёл похожие фрагменты, отдал их модели, получил ответ. Агент работает циклом: он видит, что нашлось, и сам решает, что делать дальше — переформулировать запрос, взять страницу целиком, открыть чертёж или признать, что ответа в документах нет. На простой базе знаний разницы почти не видно, на технической документации она решает исход дела: там ответ часто лежит не в первом же найденном фрагменте, а на схеме через двадцать страниц. Платой за это становятся время и стоимость запроса, поэтому такие системы проектируют с ограничениями.
Дообучение меняет саму модель и стоит дорого: нужен размеченный набор, видеокарты и повторение процедуры при каждом обновлении документов. RAG оставляет модель как есть и подкладывает ей нужные фрагменты в момент вопроса. Документ поменялся — достаточно переиндексировать его, дообучать заново ничего не нужно. Для корпоративных знаний, которые меняются каждую неделю, это единственный практичный вариант.
Нижней границы по количеству нет, важнее другое: сколько времени сотрудники тратят на поиск и сколько стоит ошибка. Если пять человек ежедневно ищут ответ в регламентах по двадцать минут, окупается и на сотне документов. Верхняя граница практически не ограничена: в нашем проекте по документации станков система работает на библиотеке из сотен мануалов и более чем 48 000 страниц.
Да, это штатный вариант поставки. Модель, база и индекс живут на вашем сервере, наружу не уходит ни один запрос. Так делают, когда документы содержат коммерческую тайну, конструкторскую документацию или персональные данные — в последнем случае локальное развёртывание снимает и вопросы по 152-ФЗ. Весь стек одного из наших проектов помещается на одной видеокарте — отдельный дата-центр для этого не нужен.
Система должна сказать, что ответа нет, а не придумать его. Это отдельная часть работы: мы собираем набор вопросов, на которые в документах ответа заведомо нет, и проверяем, что система отказывается отвечать. Отказ в нужный момент — такой же измеримый результат, как и правильный ответ.
До разработки собираем набор вопросов с заранее зафиксированными правильными ответами — обычно несколько сотен, вместе с вашими инженерами или методологами. Дальше каждое изменение системы прогоняется по всему набору, и видно, стало лучше или хуже. Без такого набора «стало лучше» остаётся вопросом вкуса.
Пилот на вашем корпусе — три-четыре недели: сюда входит разбор документов, сборка индекса, набор проверочных вопросов и первые замеры. Промышленная версия с интеграциями, правами доступа и регулярным обновлением индекса — от двух месяцев. Точные сроки зависят от того, в каком виде у вас лежат документы.
Это как раз наш профиль. Значительная часть полезной информации в технической документации лежит не в тексте, а на чертежах, схемах соединений, скриншотах интерфейсов и таблицах, вставленных картинкой. Мы строим поиск, который находит ответы и там, и приводит ссылку на конкретный рисунок и страницу.
Достаточно описать, что за корпус и какие вопросы к нему задают. По этому уже видно, нужен ли здесь агент или хватит более простого решения. Если задача не про поиск по документам — так и скажем.