Как запустить модель у себя с помощью ИИ

Открытые модели, которые работают на своём сервере без передачи данных наружу.

15 инструментов

DeepPavlov Открытая библиотека для русскоязычного NLP: классификация, извлечение сущностей, диалоговые модели. Бесплатно Русский язык Open-source

EverOS EverOS добавляет ИИ-агентам долговременную память, чтобы разработчики могли сохранять контекст и использовать накопленный опыт в новых задачах. Open-source

SealKeeper Сервис ведёт проверяемую историю задач ИИ-агентов и формирует публичную оценку их активности. Open-source VK Cloud ML Platform ML-платформа VK Cloud: обучение, версионирование и вывод моделей в прод. Русский язык Vosk Офлайн-распознавание речи с поддержкой русского языка и небольшими моделями. Бесплатно Русский язык Open-source

Modelship Modelship размещает языковые, речевые и графические модели на вашей инфраструктуре и предоставляет к ним доступ через совместимый с OpenAI API. Бесплатно Open-source бесплатно

shpyrd Shpyrd разворачивает приложения, созданные с ИИ-агентами, и подходит разработчикам и командам, которым нужно публиковать сервисы. Бесплатно Open-source бесплатно

Izwi Izwi помогает компаниям и разработчикам запускать распознавание и синтез речи, а также языковые модели в контролируемой инфраструктуре. Бесплатно Open-source

Galahad Galahad сохраняет состояние локальных языковых моделей и документы, помогая разработчикам повторно использовать контекст без повторной обработки. Бесплатно бесплатно

TensorFold TensorFold запускает языковые модели локально на компьютерах Apple Silicon и видеокартах NVIDIA, помогая разработчикам работать с ними через API.

Vercel Платформа для сборки, развёртывания и масштабирования веб-приложений и AI-функций. Бесплатно бесплатно

CosmoEdge Среда для локального анализа видео и передачи результатов в рабочие системы, предназначенная разработчикам и инженерам внедрения. Open-source

Rerun Инструмент для работы с многомодальными данными в робототехнике. Бесплатно Русский язык Open-source бесплатно

Flutter Edge AI Открытая библиотека для запуска мультимодальных языковых моделей и RAG локально в приложениях на Flutter. Бесплатно Open-source

LocalAI Открытая платформа для запуска языковых, голосовых, визуальных и других ИИ-моделей на собственном оборудовании. Open-source

Частые вопросы

Зачем запускать модель у себя?

Данные остаются в своей инфраструктуре, а стоимость не зависит от количества запросов к внешнему API.

Какое оборудование нужно?

Небольшим моделям хватает обычной видеокарты с 8–12 ГБ памяти, крупным нужны серверные ускорители или аренда вычислений.

Можно ли использовать открытую модель в коммерческом продукте?

Лицензии у открытых моделей разные: часть разрешает коммерческое применение, часть запрещает или требует раскрывать изменения. Это проверяют до внедрения.