Фото: пресс-служба Ростелекома

Облачный доступ к большим языковым моделям с оплатой за фактическое использование токенов через новый сервис Foundation Model Hub запустила компания «Турбо Облако», входящая в коммерческий ИТ-кластер «Ростелекома».

Благодаря существенному снижению стоимости применения ИИ-технологий сервис становится доступным не только крупным компаниям, но и среднему и малому бизнесу.

Сервис открывает доступ к каталогу актуальных языковых моделей для самых разных бизнес-задач. Специалисты «Турбо Облака» регулярно обновляют его, добавляя новые версии ИИ-моделей по мере выхода, так что пользователям не нужно самостоятельно следить за их жизненным циклом. В основе платформы лежит высокопроизводительная GPU[1]-инфраструктура на базе ускорителей NVIDIA H200, объединенных скоростной сетью InfiniBand. Вычислительные ресурсы автоматически увеличиваются при росте запросов, поэтому сервис обеспечивает скорость и стабильность даже при пиковых нагрузках.

Главное преимущество Foundation Model Hub — экономия. Сегодня запуск собственных ИИ-моделей требует дорогой GPU-инфраструктуры и глубоких технических знаний. Пользователям Foundation Model Hub не нужно приобретать дорогостоящие вычислительные машины или нанимать профильных специалистов — все необходимые модели уже подготовлены и развернуты на облачных мощностях дата-центров РТК-ЦОД уровня Tier III и инфраструктуре «Ростелекома», которые обеспечивают равномерно низкую задержку сигнала во всех регионах страны.

Дмитрий Подшибякин, директор по продуктам компании «Турбо Облако»:
«Сегодня большинство компаний хотят использовать современные языковые модели, но далеко не все готовы инвестировать в дорогостоящую GPU-инфраструктуру и ее сопровождение. Foundation Model Hub убирает этот барьер. Мы предоставляем готовый доступ к актуальным моделям искусственного интеллекта, берем на себя их развертывание, обновление и эксплуатацию, а наши клиенты оплачивают только фактическое потребление».

Для начала работы достаточно выбрать подходящую языковую модель из каталога, получить ключ доступа и интегрировать его в собственный сервис или внутреннюю информационную систему. Foundation Model Hub совместим со спецификацией OpenAI API, поэтому в большинстве случаев для подключения достаточно заменить базовый URL[2] и API-ключ без доработки архитектуры и с минимальными усилиями.

С Foundation Model Hub клиент платит только за фактическое использование токенов, что позволяет избежать неожиданных расходов. Контролировать бюджет помогают разные ключи доступа (API), когда для отдельных команд и проектов можно установить собственный лимит потребления токенов — например, дневной, недельный или месячный.

Андрей Прищемихин, директор опорного филиала «Ростелекома» в ЮФО и СКФО: «ИИ уже стал практичным инструментом для малого и среднего бизнеса, а не только привилегией крупных игроков. Оплата по факту потребления снимает барьер инвестиций в дорогую GPU-инфраструктуру и команду экспертов, а значит предприниматели на Юге смогут тестировать и внедрять умные решения с контролируемыми расходами. Мы открываем южному бизнесу быстрый и экономичный доступ к актуальным языковым моделям — без покупки серверов и длительных проектов по развертыванию. Это особенно важно именно для МСП: им нужен эффект здесь и сейчас, а новый сервис позволяет подключаться по OpenAI-совместимому API, масштабировать нагрузку по мере роста и получать стабильную работу в пиковые периоды».

Получить информацию о решения «Ростелекома» для бизнеса можно на официальном сайте компании или по телефону 8 800 200 1661.

[1]Графический процессор.

[2]Базовый URL (Uniform Resource Locator) — это «адресная основа» API‑сервиса, главная часть веб‑адреса, по которой отправляются запросы.

Подписывайтесь на SK-NEWS.RU в MAX и Телеграм, чтобы быть в курсе новостей!

Реклама/ ПАО РОСТЕЛЕКОМ /ИНН 7707049388/ erid: CQH36pWzJqVG75AvEpvmxvocDnS3Pt6nkArXNa9HhYf6D9