Ollama

Обзор Ollama

Ollama — бесплатная программа, которая позволяет скачать и запустить большую языковую модель прямо на своём компьютере. Модели с открытыми весами — Llama, Qwen, Gemma, Mistral, DeepSeek и десятки других — устанавливаются одной командой и работают без подключения к интернету.

Что умеет

• Локальный чат — общение с моделью в окне программы или в терминале.
• Библиотека моделей — модели разного размера: от лёгких для ноутбука до тяжёлых для мощных видеокарт.
• Локальный API — подключение модели к своим скриптам, ботам и редакторам кода.
• Облачные модели — при желании можно запускать крупные модели на серверах Ollama.

Что доступно бесплатно

Всё, что работает на вашем компьютере, бесплатно и без лимитов — ограничение только в мощности железа. Регистрация для этого не нужна. Платные только облачные модели: можно платить за использованные токены или оформить Pro за $20 в месяц, который включает $60 облачного использования.

Как начать

1. Скачайте Ollama с официального сайта для Windows, macOS или Linux и установите.
2. Выберите модель в библиотеке на сайте — для начала подойдёт небольшая, на несколько миллиардов параметров.
3. Скачайте её и начните диалог в окне программы или командой в терминале.

Для общения на русском выбирайте многоязычные модели — например, из семейства Qwen.

Кому подойдёт

Тем, кто не хочет отправлять свои данные в облако, разработчикам, которым нужна модель для экспериментов без оплаты за запросы, и всем, кто хочет нейросеть, работающую без интернета.

Альтернативы

Если компьютер слабый, проще пользоваться бесплатным облачным DeepSeek. Другие варианты — в разделе локальные и open-source модели.