Как запустить модель у себя с помощью ИИ

Открытые модели, которые работают на своём сервере без передачи данных наружу.

10 инструментов

Natasha Набор открытых библиотек для разбора русского текста: токены, леммы, имена, адреса, суммы. Бесплатно Русский язык Open-source Saiga / rulm Открытые русскоязычные языковые модели и код для их дообучения. Бесплатно Русский язык Open-source DeepPavlov Открытая библиотека для русскоязычного NLP: классификация, извлечение сущностей, диалоговые модели. Бесплатно Русский язык Open-source

Milvus Milvus помогает разработчикам хранить векторы и искать похожие данные для задач машинного обучения и рекомендательных систем. Бесплатно Русский язык Open-source

CosmoEdge Среда для локального анализа видео и передачи результатов в рабочие системы, предназначенная разработчикам и инженерам внедрения. Open-source

Rerun Инструмент для работы с многомодальными данными в робототехнике. Бесплатно Русский язык Open-source

nanobot Открытый агент для самостоятельного запуска с веб-интерфейсом, терминалом и поддержкой чата. Open-source

CARLA CARLA — это открытая платформа для симуляции автономного вождения. Бесплатно Open-source

Label Studio Платформа с открытым исходным кодом для аннотирования данных и оценки ИИ. Бесплатно Open-source Vosk Офлайн-распознавание речи с поддержкой русского языка и небольшими моделями. Бесплатно Русский язык Open-source

Частые вопросы

Зачем запускать модель у себя?

Данные остаются в своей инфраструктуре, а стоимость не зависит от количества запросов к внешнему API.

Какое оборудование нужно?

Небольшим моделям хватает обычной видеокарты с 8–12 ГБ памяти, крупным нужны серверные ускорители или аренда вычислений.

Можно ли использовать открытую модель в коммерческом продукте?

Лицензии у открытых моделей разные: часть разрешает коммерческое применение, часть запрещает или требует раскрывать изменения. Это проверяют до внедрения.