Engineering AI | Услуги

Услуги

Мы закрываем полный инженерный цикл работы с моделями ИИ — от сырых данных до работающего сервиса в продакшене. Каждая услуга — это отдельный проект с фиксированными артефактами на выходе: кодом, конфигурациями, метриками и документацией, а не «консультацией».

Данные и подготовка

Начинаем с того, на чём стоит любой ML-проект. Аудит имеющихся датасетов и документов, сбор корпуса из ваших источников (документооборот, логи, CRM, тикеты), дедупликация, очистка, разметка и контроль качества. Отдельный трек — проверка данных на токсичность и отравление (data poisoning): датасет, в который попала враждебно сформированная выборка, делает бессмысленными все последующие этапы.

Обучение и дообучение

Дообучение открытых моделей (Llama, Qwen, Gemma, Mistral) под вашу предметную область: SFT и LoRA/QLoRA, подбор гиперпараметров, контроль переобучения на held-out выборках, количественная оценка галлюцинаций. Результат — не «вот веса», а воспроизводимый пайплайн: конфигурация, сиды, model card, протокол оценки.

Оптимизация

Доводим модель до экономической целесообразности: квантование (GGUF, AWQ/GPTQ, INT8/FP8), дистилляция в компактные ученики, спекулятивный декодинг, оптимизация KV-cache и батчинга. Перед внедрением — бенчмарк до/после под вашу реальную нагрузку: токены в секунду, латентность P95, стоимость на миллион токенов, деградация качества. Решение о компромиссе «качество против скорости» принимается по цифрам, а не по ощущениям.

Развёртывание и интеграция

Инференс-сервис в вашем контуре: llama.cpp или vLLM на Kubernetes, балансировка, автоскейлинг, мониторинг задержек и ошибок. RAG-конвейеры поверх ваших документов с гибридным поиском, реранкингом и обязательными цитатами на источники. ИИ-агенты с жёстким ограничением инструментов и white-list внешним вызовам. Данные не покидают ваш периметр — это проектное ограничение по умолчанию.

Безопасность и сопровождение

Аудит ML-стека по OWASP LLM Top 10 и MITRE ATLAS: prompt injection через документы и user input, утечки через контекст, целостность supply chain (подписи артефактов, SBOM, SLSA). После внедрения — мониторинг дрейфа качества, регулярные red-team прогоны на отравленных smoke-тестах в CI и сопровождение обновлений моделей.


Формат работы: фиксированный объём и артефакты на выходе, доступ к репозиторию с первого дня, еженедельные демо. Начать можно с любого этапа — но к оптимизации инференса без замеров на ваших данных мы не приступаем.