Ollama
 | Это заготовка статьи. |
Ollama — открытый инференс-движок, использующий под капотом библиотеку llama.cpp и ориентированный на удобство управления и запуска моделей. Содержит большой репозиторий готовых моделей различных уровней квантизации GUFF. Оптимален для начинающего пользователя LLM.
См. также
- Open WebUI
- Список больших языковых моделей
- Список программного обеспечения для локального запуска и управления LLM
Ссылки
- ollama.com — официальный сайт Ollama
- Проект Ollama на сайте GitHub