Как работаем

Сначала проверяем на ваших данных, потом внедряем.

  1. Диагностика

    Находим, где ИИ даст эффект.

  2. Пилот

    Один процесс, качество измеряем на ваших данных.

  3. Внедрение

    На ваших серверах или в облаке, со связью с вашими системами.

  4. Сопровождение

    Обучаем сотрудников, следим за качеством, расширяем на другие процессы.

Колокол над шагом — разброс возможного результата. С каждым шагом он уже: от оценки на диагностике к замеру на ваших данных.

Четыре шага

  1. Диагностика

    Что делаем
    Говорим с владельцем процесса и с теми, кто его выполняет. Описываем процесс по шагам, смотрим на данные. Делим работу: что делает код, что модель, что человек.
    Что нужно от вас
    Доступ к процессу, выборка данных, контакт эксперта.
    Итог
    Описание процесса, оценка эффекта и рисков, план пилота с критериями приёмки. Или честный ответ, что ИИ здесь не нужен.
  2. Пилот

    Что делаем
    • вместе с вашим экспертом размечаем эталонную выборку;
    • прогоняем на ней несколько моделей и выбираем по правилу, которое зафиксировали до прогона;
    • запускаем решение на фрагменте данных или в одном подразделении.
    Итог
    Решение, проверенное на реальном фрагменте работы, и отчёт о качестве. Принимаем по критериям из диагностики.
  3. Внедрение

    Что делаем
    • разворачиваем решение на ваших серверах или во внешних сервисах;
    • связываем с вашими системами;
    • переходим на полный объём: уверенные решения проходят автоматически, спорные эксперт получает в привычном инструменте.
    Итог
    Решение работает в вашем процессе.
  4. Сопровождение

    Что делаем
    Обучаем сотрудников, следим за качеством, обновляем модели, переносим решение на другие процессы.
    Итог
    Система живёт после сдачи. Её можно воспроизвести и поддерживать без нас.

Как проверяем качество

Эталон
Выборка с ответами, которые подтвердил ваш эксперт. Качество измеряем на ней, а не на общих рейтингах моделей.
Повторяемость
Один и тот же вход прогоняем несколько раз и смотрим, совпадает ли результат.
Второе мнение
Ту же задачу решает другая модель, расхождения уходят на проверку.
Погрешность
Качество называем с доверительным интервалом, а не одним числом.
Правило выбора — заранее
Как выбираем модель, фиксируем до прогона, чтобы не подгонять результат.
Закреплённые версии
Модель, программа запуска и промпты не меняются незаметно, поэтому результат можно воспроизвести.

Где работает решение

Решаем вместе с вами до старта и фиксируем в ТЗ. Учитываем класс данных, требования безопасности, объём и нужное качество по замеру.

В вашем контуре

  • Модели с открытыми весами работают на ваших серверах, данные не выходят за периметр.
  • Нужно оборудование с видеокартами. Для пилота обычно хватает одного сервера с одной-двумя.
  • Подходит, когда в данных есть персональные данные, коммерческая тайна или строгие требования ИБ.

Во внешних сервисах

  • Модели внешних поставщиков, подключение через API.
  • Быстрый старт без своего железа.
  • Подходит для данных, которые можно передавать поставщику.

Смешанный вариант

Открытая или обезличенная часть обрабатывается во внешних сервисах, чувствительная — внутри контура.

Модели и железо

Модель подбираем под задачу:

  • малые — для классификации и разметки;
  • средние — для разбора документов и ответов;
  • крупные — там, где нужна глубина рассуждения;
  • отдельные модели — для поиска по смыслу и переранжирования результатов.

Сжатие моделей (квантование) снижает требования к памяти. Цену этого в качестве проверяем замером.

Безопасность

  • Персональные данные обрабатываем только внутри контура. Где возможно, перед обработкой их псевдонимизируем.
  • Модель не принимает решений: правила проверяют её ответ, спорное уходит человеку.
  • У агентов минимальные права: без подтверждения человека они не меняют данные в ваших системах.

Что вы получаете

  • Работающее решение — в вашем контуре или на согласованных сервисах.
  • Базу решений: у каждого — правило, обоснование, кто и когда его подтвердил.
  • Отчёт о качестве с методикой замера.
  • Комплект для воспроизведения: версии моделей, промпты, скрипты, инструкцию.

Где ИИ не нужен

Если задачу проще и надёжнее решить правилом, таблицей или обычной программой — так и скажем на диагностике.

Про нагрузку на ваших сотрудников

ИИ не отменяет работу экспертов: им всё равно предстоит согласовать методику и проверить спорные случаи. Наша задача — чтобы к ним попадало только то, что действительно требует решения человека.