Новый подход к использованию моделей машинного обучения
Компания immers.cloud анонсировала запуск каталога Foundation Models, который предоставляет открытый доступ к моделям обработки естественного языка (LLM) с возможностью аренды графических процессоров (GPU). Ключевое преимущество сервиса заключается в том, что оплата производится только за аренду серверов, а не за количество обработанных токенов.
Основные особенности платформы:
- Аренда GPU: пользователи могут выбрать подходящий тип видеокарты для своих задач, включая модели NVIDIA A100 и RTX 3090.
- Отсутствие оплаты за токены: нет необходимости платить за каждый обработанный токен, что снижает затраты при больших объемах данных.
- Автоматический подбор конфигурации: платформа автоматически подбирает оптимальную конфигурацию оборудования для конкретной задачи.
- Публичные эндпоинты: возможность тестирования моделей через общедоступные API-эндпоинты.
Преимущества использования Foundation Models
Использование каталога Foundation Models позволяет разработчикам и компаниям значительно сократить расходы на обработку данных, особенно при работе с большими объемами информации. Платформа также упрощает процесс выбора подходящего оборудования благодаря автоматическому подбору конфигураций, что экономит время и ресурсы пользователей.