AI-серверы: приватный искусственный интеллект на вашем железе

Приватный GPT от CloudHosting обрабатывает счета, договоры, кадровые и медицинские документы на оборудовании, которое принадлежит вам, в вашем офисе или в рижском дата-центре, поэтому персональные данные не передаются стороннему ИИ-сервису. Если устройство стоит у вас в офисе, отдельный договор обработки для самой модели не нужен; если оно размещено в нашем дата-центре в Риге, по размещению мы выступаем вашим обработчиком и подписываем с вами договор обработки данных. В обоих случаях обработка остаётся в ЕС, а список поставщиков по NIS2 остаётся коротким. Контролёром данных по-прежнему остаётесь вы, поэтому внутренние правила доступа никуда не исчезают: внедрение включает API-ключи, журнал аудита и лимиты запросов, так что вы можете документировать, кто, когда и о чём спрашивал модель.

AI-сервер CloudHosting со 128 ГБ единой памяти запускает Llama 3.3 70B в квантовании FP8, при котором ответы остаются близки к исходной модели, или в 4-битном, если нужны более быстрые ответы и больше места под длинные документы. Веса 70B-модели в полной точности занимают около 141 ГБ и в одно устройство не помещаются. Модели поменьше, такие как Qwen или Mistral, помещаются с большим запасом и отвечают заметно быстрее, поэтому их обычно выбирают, когда устройством одновременно пользуется много людей. Модели работают на vLLM или llama.cpp, поэтому замена одной на другую остаётся рутинной, а в управляемом плане мы обновляем их раз в квартал по мере выхода релизов вроде Llama 4 или Qwen 3. Если не уверены, какая модель подходит, подберём её вместе.

Приватный GPT от CloudHosting отдаёт стандартный chat-completions API OpenAI в вашей LAN или VPN, поэтому библиотеки, SDK и плагины, написанные под эндпоинты OpenAI, работают после замены только базового URL и API-ключа. Существующие интеграции продолжают работать без изменений кода, ради этого мы и держимся стандартного интерфейса. Эндпоинт доступен только внутри вашей сети, а не из публичного интернета, и каждому приложению можно выдать отдельный ключ. Вместе с API вы получаете чат-интерфейс для сотрудников, которым достаточно задавать вопросы в браузере. Если в вашем стеке есть критичный инструмент, назовите его поддержке, и мы проверим его работу с эндпоинтом до внедрения.

Опциональный RAG от CloudHosting позволяет приватной модели отвечать по вашим внутренним документам: источники вроде SharePoint индексируются в Qdrant или pgvector на той же машине, поэтому индекс тоже не покидает вашу сеть. Когда сотрудник задаёт вопрос, система находит подходящие фрагменты, и модель отвечает по ним, а не угадывает. В управляемом плане индекс перестраивается каждую ночь, поэтому вчерашние правки появляются в ответах, а мы донастраиваем поиск по мере роста контента. Честно скажем: качество ответов зависит от того, насколько аккуратно ведутся сами документы. Перечислите ваши источники при запросе расчёта, и мы подтвердим, что из них можно подключить.

AI-сервер CloudHosting стоит либо у вас в офисе, где к нему обращаются по локальной сети, либо в дата-центре уровня Tier 3+ в Риге, который CloudHosting ведёт сам, и туда команда подключается по VPN. В офисе работа не зависит от интернет-подключения. В обоих случаях оборудование остаётся вашей собственностью, и всё, что на нём хранится, включая модели, индексы и журналы, принадлежит вам. Раз коробка ваша, можно начать в офисе и позже переехать в дата-центр или наоборот. Доставка по Риге включена в покупку, доставку в другие места согласуем отдельно, поэтому при запросе расчёта укажите ваше местоположение.

Управляемый план CloudHosting для AI-серверов не обязателен и стоит от 500 EUR в месяц; уже само внедрение передаёт вам готовый защищённый сервис с планом бэкапов и аварийного восстановления, который с первого дня можно обслуживать самим. Только честно оцените, что это значит: кому-то на вашей стороне придётся следить за загрузкой GPU и задержками, ставить патчи ОС и CUDA и самостоятельно обновлять модели. Управляемый план снимает именно эту работу и добавляет 4 часа инженера каждый месяц на изменения и запросы. Можно начать своими силами и подключить план позже, если обслуживание окажется в тягость: достаточно написать в поддержку, и мы его включим.

Приватный GPT-сервер от CloudHosting складывается из трёх частей: оборудование как разовая покупка по цене, указанной на этой странице, внедрение от 5000 EUR разово и опциональный управляемый план от 500 EUR в месяц, все цены без НДС. Внедрение покрывает развёртывание, защиту и запуск API с чат-интерфейсом. Платы за токены нет, поэтому ежемесячные расходы не растут, когда вы подключаете новых пользователей или команда начинает работать с сервисом интенсивно. Если подходящий сервер у вас уже есть, дешевле может выйти отдельная карта-ускоритель. Точную сумму для вашего случая мы назовём в расчёте и распишем её по позициям.

Один AI-сервер CloudHosting на чипе NVIDIA GB10 со 128 ГБ памяти обслуживает небольшую группу на модели 70B или больше людей одновременно на модели среднего размера, а устройство NVIDIA GB10 можно связать со вторым, когда команда его перерастёт. Одной фиксированной цифры нет, потому что всё зависит от модели, длины контекста и того, как работает команда. Одновременными считаются те, кто отправляет запросы в один и тот же момент, а в обычном офисе в каждый момент в чате сидит лишь часть сотрудников, поэтому общее число учётных записей может быть заметно больше. Модель 70B подходит группе, для которой глубина ответов важнее скорости, а модель среднего размера отвечает быстрее. Назовите численность и ожидаемую нагрузку на этапе оценки, и мы предложим модель и конфигурацию.

Оба AI-сервера, которые продаёт CloudHosting, NVIDIA GB10 и ASUS Ascent GX10, одинаково запускают модели на одном и том же чипе GB10 Blackwell со 128 ГБ единой памяти, а отличаются хранилищем, 4 TB против 1 TB NVMe, и поддержкой кластера. Скорость инференса и набор помещающихся моделей одинаковы. Устройство NVIDIA поддерживает кластер, ASUS работает только одиночным узлом. На практике объём хранилища важен, когда на коробке лежат несколько моделей и растущий индекс RAG, а кластер нужен лишь тем, кто планирует позже добавлять узлы. Небольшой стабильной команде устройства ASUS вполне достаточно. Внедрение и управляемый план для обоих одинаковы, доставка по Риге включена в обоих случаях.

Договор на AI-сервер вы заключаете с CloudHosting SIA, латвийским провайдером IT-инфраструктуры, который работает с 2016 года и сам ведёт свой дата-центр уровня Tier 3+ в Риге. Купленное оборудование становится вашей собственностью, а счета за внедрение и управляемый план выставляет та же компания. Счета выставляются и оплачиваются в EUR: компаниям из Латвии начисляется 21% НДС, компаниям из ЕС с действующим номером плательщика НДС счёт выставляется по обратному начислению, компаниям вне ЕС без НДС. Если устройство размещено в нашем дата-центре, мы как обработчик подписываем с вами договор обработки данных. Действует право Латвии.

Инженеры CloudHosting отвечают на русском, латышском и английском в рабочие дни с 9:00 до 17:00 по рижскому времени, а управляемый план добавляет мониторинг 24/7: загрузка GPU, VRAM, очередь и задержки. Внедрение, оценку нагрузки и вопросы после запуска ведёт одна и та же команда, через заявку, почту или телефон. Без управляемого плана устройство обслуживаете вы: на вопросы мы отвечаем в рабочее время, а за коробкой следит ваша сторона. С управляемым планом мы также ставим патчи ОС и CUDA в ежемесячном окне, обновляем модели раз в квартал, каждую ночь переиндексируем RAG и даём 4 часа инженера в месяц.

С AI-сервером от CloudHosting оборудование полностью принадлежит вам, поэтому уйти значит забрать устройство с собой: модели, индексы, журналы и документы на нём остаются вашими. У самой коробки нет ни платы за токены, ни подписки. Управляемый план заканчивается, когда вы перестаёте оплачивать его следующий счёт; чтобы прекратить его досрочно, внутри оплаченного периода, напишите на info@cloudhosting.lv за 20 дней. Если устройство размещено в нашем рижском дата-центре, по договорённости мы передадим его вам. Сервис построен на открытых инструментах, vLLM или llama.cpp, Qdrant или pgvector и OpenAI-совместимом API, поэтому его обслуживание может взять на себя любой, кого вы выберете.