Услуга · Искусственный интеллект

Инфраструктура для ИИ

Нужна тем, кто не может отправлять данные во внешние сервисы: банки, медицина, госсектор, компании с коммерческой тайной. Собираем контур, в котором модель работает внутри вашей сети.

Оставить заявку Что входит

В контуре

данные не уходят

Ускорители

подбор под задачу

Хранилище

под объёмы данных

Аренда

или своё железо

Что входит

Требования к железу сильно зависят от задачи: запуск готовой модели и её обучение - совершенно разные бюджеты.

Обсудить состав

Расчёт конфигурации

Ускорители, объём видеопамяти, процессор и оперативная память под конкретную задачу.

Локальное развёртывание

Установка и настройка модели в вашем контуре без обращения к внешним сервисам.

Хранилище данных

Быстрый доступ к обучающим наборам, версионирование, резервные копии.

Изоляция

Сегмент сети без выхода наружу, разграничение доступа, журналирование обращений.

Мониторинг

Загрузка ускорителей, температура, очередь задач.

Аренда мощностей

Вариант без капитальных затрат, если задача разовая или объём непредсказуем.

Как проходит работа

Развёртывание готовой модели - несколько дней. Инфраструктура под обучение - от нескольких недель с учётом поставки.

Требования

Какая модель, какой размер, сколько одновременных запросов, нужно ли обучение.

Расчёт

Конфигурация с обоснованием и сравнением аренды с покупкой.

Развёртывание

Установка, настройка, интеграция с вашими системами.

Передача

Документация, мониторинг, обучение администраторов.

Запуск готовой модели и её обучение отличаются по требованиям в десятки раз. Для работы с текстом в типовых задачах хватает одного сервера с ускорителем среднего класса. Обучение с нуля требует кластера и бюджета другого порядка - и в подавляющем большинстве случаев не нужно.

Частые вопросы

Обязательно ли своё железо?

Нет, если данные не чувствительны: аренда мощностей дешевле и быстрее. Своё оборудование нужно там, где данные нельзя выпускать из контура по требованиям регуляторов или соображениям тайны.

Какой ускоритель нужен?

Определяется размером модели: ключевой параметр - объём видеопамяти, модель должна в неё поместиться. Для типовых задач с текстом обычно достаточно решения среднего класса, а не самого дорогого.

Хватит ли качества локальной модели?

Для суммирования текстов, поиска по документам, классификации и помощи в переписке - как правило, да. Для сложных рассуждений открытые модели уступают крупным облачным. Проверять нужно на ваших задачах до закупки.

Другие услуги направления

Всё направление

Соберём инфраструктуру под ИИ

Расскажите про задачу и требования к данным. Посчитаем конфигурацию и сравним с арендой.

Телефон
+7 (495) 978-63-36

Почта
office@apply.ru

Офис
Москва, Профсоюзная ул., 108

Согласен на обработку персональных данных