Почему не облачные вычисления
Когда мы начинали делать ИИ-продукты, сначала пробовали облачные вычисления. Столкнулись с повторяющейся проблемой: многие доступные решения работают на CPU - центральных процессорах общего назначения. Для обычных задач этого достаточно. Для инференса, то есть выполнения ИИ-модели на новых данных в реальном времени, этого мало.
Модель отвечает медленно, пользователь ждёт, рабочий процесс начинает тормозить. В итоге потенциал продукта не раскрывается: формально ИИ есть, но пользоваться им неудобно.
Аренда GPU-мощностей решает проблему скорости. GPU - графические ускорители, которые подходят для параллельных вычислений в задачах искусственного интеллекта. Но у аренды есть другая сторона: цена опытного внедрения быстро становится неразумной. Либо мы работаем в убыток, либо стоимость для клиента выходит за пределы нормального бюджета.
Почему для госсектора это не выбор
Есть и вторая причина - законодательная. Информационные системы государственных органов Беларуси должны размещаться на серверах, физически расположенных на территории страны, у аккредитованных поставщиков. Иностранные облачные платформы под это требование не подходят.
Организации, работающие с государственными информационными системами, проходят аттестацию по информационной безопасности и используют сертифицированные средства защиты. Мы работаем с госсектором, поэтому нам нужна инфраструктура, которая соответствует этим требованиям по умолчанию.
«Волат» размещён в серверной Брестского научно-технологического парка. «Энкор студио» - резидент технопарка с 2020 года. Белорусская юрисдикция, физический адрес и полный контроль над данными для наших клиентов из госсектора не бонус, а обязательное условие.
По той же причине мы отдельно разбирали риск теневого ИИ : когда данные уходят во внешний сервис без контроля, вернуть их назад уже невозможно.
Что такое «Волат»
«Волат» - это не один сервер в привычном смысле. Это специализированный вычислительный кластер, заточенный под задачи машинного обучения и инференса: выделенные GPU, высокоскоростная память и архитектура под параллельные ИИ-вычисления.
Разница между CPU-сервером и GPU-кластером в ИИ-задачах примерно как между легковой машиной и грузовиком. Формально оба едут. Но когда нужно обрабатывать тысячи запросов к языковой модели одновременно или считать прогнозную аналитику по миллионам записей, только специализированная инфраструктура даёт нужную скорость без деградации.
Пять узлов - стартовая конфигурация. Это не запас ради демонстрации возможностей, а практичный объём под реальные задачи, которые уже идут. Мы держим баланс между производительностью и затратами, без избыточного раздувания инфраструктуры.
Пять специализированных узлов
Кластер распределяет нагрузку между несколькими вычислительными машинами, чтобы продукты могли обрабатывать тяжёлые задачи устойчиво.
GPU для ИИ-вычислений
Графические ускорители берут на себя расчёты, которые на обычных процессорах выполнялись бы слишком медленно для рабочего сценария.
Данные внутри контура
Инфраструктура размещена в Беларуси и подходит для проектов, где важны юрисдикция, контроль доступа и защита чувствительных данных.
Какие продукты работают на этой инфраструктуре
На «Волате» работает не один продукт. Каждый решает свою задачу и каждый раскрывается именно на GPU-инфраструктуре, потому что на обычных процессорах производительность быстро упирается в предел.
В статье «Искусственный интеллект в госсекторе и на предприятиях» мы писали, что ИИ даёт эффект только там, где закрывает повторяющуюся операцию. «Волат» нужен именно для таких операций - частых, тяжёлых и чувствительных к задержке.
ИнспектКом Пульс
Прогнозная аналитика по массиву данных о домовладениях, нарушениях, социальных профилях и предписаниях ведомств.
САТА «Щебетарь»
Продукт для обработки речевых и текстовых сценариев, где важны скорость ответа и контроль над данными.
Василёк
Решение для задач, в которых ИИ помогает работать с большими объёмами информации и снижает ручную нагрузку.
Веда
Интеллектуальный слой для корпоративных знаний, поиска, обработки документов и поддержки решений внутри организации.
Отдельный повод рассказать о «Веде» появился после конкурсного отбора инновационных проектов БНТП. В новости «Веда» победила в конкурсе инновационных проектов БНТП мы коротко объясняем, как финансирование связано с инфраструктурой «Волат».
ИнспектКом Пульс: от ночных расчётов к реальному времени
«ИнспектКом Пульс» обрабатывает огромный массив данных: миллионы записей по домовладениям, историю нарушений, социальные профили, предписания ведомств. Даже для хорошего оборудования это тяжёлая задача.
Сейчас прогнозные расчёты запускаются ночью. Не потому что так задумано, а потому что днём обычные процессоры заняты онлайн-запросами пользователей и под тяжёлые вычисления не хватает ресурса. Это рабочий компромисс: инспектор утром видит актуальные приоритеты, а система сохраняет устойчивость под нагрузкой.
Но это временное решение, не финальная точка.
В этом году на базе «Волата» мы переводим «ИнспектКом Пульс» на работу в реальном времени. Это означает не просто ускорение расчётов, а качественно другой продукт. Инспектор приезжает в район и получает локальные рекомендации прямо на телефон: какой адрес сегодня приоритетный и почему.
Это становится возможным тогда, когда под продуктом стоит правильная инфраструктура.
Базовый проект «ИнспектКом» уже показал, как цифровая система меняет работу ведомств. О том, почему управленческий эффект появляется только после перестройки процесса, мы отдельно писали в материале «Цифровизация в госсекторе и промышленности» .
Зачем мы об этом рассказываем
Мы рассказываем об этом не для того, чтобы похвастаться оборудованием или победой в конкурсе. Важно другое: разговор о безопасности данных, реальном времени и соответствии законодательству - это не позиция для сайта, а конкретное инженерное решение.
«Щебетарь», «Василёк», «Веда», «ИнспектКом Пульс» - разные продукты и разные задачи, но одна инфраструктурная логика. Данные остаются под контролем, вычисления происходят рядом с продуктом, а решения можно развивать без зависимости от чужих тарифов.
«Волат» в технопарке Бреста - это начало независимого пути. Он не самый быстрый и не самый дешёвый на старте, но именно он подходит задачам, которые мы берём в работу.