AgentsRoom тепер підтримує Ollama: Запускайте локальні моделі поруч із хмарою

Ollama тепер є підтримуваним провайдером в AgentsRoom. Ви можете призначити локальну модель з відкритим кодом будь-якому агенту, запускати її на тій же дошці, що і Claude, Codex, Grok Build і Mistral Vibe, і перемикатися в середині розмови, не втрачаючи контекст. Відкриті ваги, які ви вже знаєте: Llama, Qwen, Gemma, DeepSeek та інші, тепер готові до роботи у вашій кімнаті.

Ollama не зовсім схожий на інших провайдерів, яких ми додали. Це не ще один агент, на якого можна робити ставку. Це двері до всього каталогу моделей з відкритим кодом, які працюють на вашому власному обладнанні, безкоштовно за кожен токен і за замовчуванням приватно.

Що таке Ollama

Ollama: це безкоштовний, з відкритим кодом runtime, який завантажує і запускає великі мовні моделі на вашій власній машині. Одна команда, ollama pull qwen3-coder, завантажує модель. ollama run обслуговує її на локальному кінцевому пункті за адресою http://localhost:11434. Він надає API, сумісний з OpenAI, саме тому кодові агенти можуть спілкуватися з ним без спеціального клею, і він постачається на macOS, Windows і Linux.

Він також підтримує виклик інструментів, що потрібно кодовому агенту, щоб редагувати файли та виконувати команди, а не просто спілкуватися. Бібліотека моделей читається як список відомих відкритих ваг: Llama, Qwen, Gemma, DeepSeek, Mistral, Phi та інші, у розмірах, які підходять для всього, від ноутбука до робочої станції з GPU.

Два факти підтримують решту цієї статті. Моделі працюють на вашій машині, тому нічого з того, що ви вводите, не перетинає мережу. І локальне висновування не має рахунку за кожен токен. Все нижче є наслідком цих двох.

Вибір між локальним і хмарним, який усі приймають

До цього часу рішення було бінарним. Виберіть хмару, і ви отримаєте передові можливості, але кожен запит і кожен файл, до якого ви торкаєтеся, відправляється до стороннього API і вимірюється за токеном. Виберіть локальне, і ви отримаєте конфіденційність і нульову вартість, але відмовляєтеся від найсильніших моделей для завдань, які дійсно їх потребують. Більшість команд обирають один шлях і дотримуються його.

Це бінарне рішення є хибним, оскільки кодова база не є одним видом роботи. Перейменування символу в сорока файлах, написання шаблонних тестів, підсумовування diff, складання повідомлення про коміт: жодне з цього не потребує передової моделі, і багато з цього стосується коду, який ви б не хотіли відправляти кудись. Один складний архітектурний рефактор може потребувати великого двигуна. Платити хмарні ціни за шаблони або обмежувати складне завдання моделлю, яка занадто мала,: це податок, який ви платите за те, що розглядаєте вибір як все або нічого.

В AgentsRoom локальне або хмарне: це регулятор, а не перемикач

AgentsRoom вже надає кожному агенту свого провайдера і модель. Додавання Ollama означає, що кожен агент тепер може сидіти будь-де на регуляторі від локального до хмарного, і ви налаштовуєте його для кожного агента, для кожного завдання.

Регулятор буквально є ідентифікатором моделі. Введіть qwen3-coder:30b, і агент запускає Qwen локально через Ollama, на вашому обладнанні, безкоштовно. Додайте суфікс :cloud, glm-4.6:cloud, і той самий агент запускає цю модель через вашу підписку на Ollama Cloud. Один суфікс переміщує агента з вашого GPU на розміщений, не торкаючись нічого іншого в налаштуванні.

Оскільки AgentsRoom зберігає ваш контекст при перемиканні провайдера, регулятор рухається і в середині розмови. Запустіть агента на локальній моделі, дайте йому обробити механічну частину завдання, а потім переключіть його на хмарну модель для одного кроку, який потребує глибшого розуміння. AgentsRoom створює підсумок передачі файлів, прогресу та активності сесії, щоб хмарна модель продовжила саме там, де зупинилася локальна. Перемкніть назад, коли складна частина завершена.

Як це використовувати

Якщо ви вже використовуєте AgentsRoom, майже нічого нового не потрібно вчити:

1. Встановіть Ollama з ollama.com і завантажте модель: ollama pull qwen3-coder:30b. Модель Qwen Coder є сильним вибором для коду. Менші машини комфортно запускають 7B, а 24GB GPU обробляє 30B з великим вікном контексту.
2. У налаштуваннях AgentsRoom виберіть Ollama як провайдера, або як ваш за замовчуванням, або для одного агента.
3. Створіть агента, дайте йому роль, і в полі моделі введіть ідентифікатор моделі Ollama. Використовуйте qwen3-coder:30b, щоб запустити його локально, або додайте :cloud, щоб запустити через Ollama Cloud.
4. Надішліть запит. AgentsRoom запускає реальний процес ollama run у вашій папці проекту і транслює вихід у реальному часі, так само, як він керує кожним іншим провайдером.

Одна порада з поля: Ollama за замовчуванням встановлює нові моделі на мале вікно контексту. Для агентської роботи збільшіть його, щоб агент міг утримувати реальний шматок вашого репозиторію в полі зору, а не лише останні кілька повідомлень.

Економіка безкоштовного, приватного рою

AgentsRoom побудований для запуску агентів паралельно: дошка з ними, кожен на своєму завданні, кожен з точкою статусу. На хмарних провайдерах ця паралельність супроводжується лічильником, тому що шість агентів, що працюють одночасно,: це шість рахунків за токени, що зростають разом. На локальних моделях Ollama гранична вартість токена дорівнює нулю. Запустіть рій, дайте йому працювати весь день, і єдиний рахунок: це електрика.

Це змінює те, для чого потрібна паралельність. Коли кожен агент вимірюється, ви їх раціонально використовуєте. Коли вони безкоштовні, ви можете дозволити собі бути щедрими у корисний спосіб: локальний агент, який стежить за дрейфом lint, один, що підтримує changelog актуальним, один, що складає тести для кожної нової функції, всі працюють у фоновому режимі без граничних витрат, поки ваш вимірюваний хмарний агент залишається зарезервованим для роботи, яка дійсно його потребує. Якщо запуск багатьох агентів одночасно для вас новий, ми писали про цю модель у запуск кодових агентів паралельно.

Конфіденційність, за яку не потрібно сперечатися

Для багатьох команд вирішальним фактором є не вартість, а те, куди йде код. Регульовані галузі, робота з клієнтами під NDA, внутрішня кодова база, яку юридичний відділ не дозволить наблизити до стороннього API: локальне висновування відповідає на питання до того, як воно буде задано, тому що модель працює на машині, і запит ніколи не перетинає мережу. Немає нічого для перевірки, ніякої угоди про обробку даних, ніякого пункту про резидентство даних.

AgentsRoom підходить до цієї позиції від початку до кінця. Локальні моделі зберігають ваш код на машині, а власна синхронізація AgentsRoom між вашим настільним комп'ютером і телефоном є зашифрованою від кінця до кінця, тому контроль за флотом з іншого кінця кімнати ніколи не скасовує конфіденційність, яку щойно придбала локальна модель. Якщо дотримання вимог є причиною, чому ви це читаєте, ця комбінація є суттю, і вона добре поєднується з практиками в нашій нотатці про вибіркове кодування та відповідність GDPR.

Гібридна модель тоді виходить сама собою: маршрутизуйте приватне і масове до локальної моделі, підвищуйте лише складне, не чутливе міркування до хмари, і дайте регулятору обробити передачу. Ви отримуєте передову потужність там, де вона виправдовує себе, і локальну конфіденційність всюди.

Чому це важливо

AgentsRoom ніколи не був клієнтом для однієї моделі або одного постачальника. Це кабіна для запуску правильного агента для кожного завдання, пліч-о-пліч, під одним парою очей. Ollama розширює цю обіцянку в специфічний спосіб: це не ще один хмарний агент для підключення, це вся екосистема відкритих ваг, на ваших власних умовах, за ціною нуль і за замовчуванням приватно.

Локально для багатьох, хмарно для небагатьох, і регулятор, щоб переміщати будь-якого агента між ними. Завантажте AgentsRoom, підключіть Ollama, і дайте кімнаті, повній моделей з відкритим кодом, працювати. Дивіться повну матрицю сумісності провайдерів, або читайте більше про підтримку кількох провайдерів і як перемикання в середині розмови зберігає ваш контекст неушкодженим.