Запуск qwen3.5 локально с ollama и создание агента

В этом руководстве вы узнаете, как запустить Qwen3.5 локально, используя Ollama и подключить его к OpenCode для создания простой локальной агентической системы. В оригинале не указано, что Qwen3.5 разработана Alibaba. Информация о размерах модели (7B, 14B и 72B) и требуемом объеме оперативной памяти (16 ГБ минимум, 32 ГБ рекомендуется) отсутствует в оригинале и веб-поиске.

Для запуска Qwen3.5 локально можно использовать квантование для уменьшения размера модели. Оригинальный текст упоминает llama.cpp и AutoGPTQ как инструменты для квантования, но не описывает этот процесс подробно.

Для создания агентической системы на основе Qwen3.5 можно использовать LangChain. Информация о необходимых зависимостях (Python 3.8+, pip, llama.cpp или AutoGPTQ, LangChain, transformers, sentencepiece) не содержится в оригинале и веб-поиске.

Использование GPU может повысить производительность, но Qwen3.5 можно запускать и на CPU. Кеширование может сократить время отклика.

Qwen3.5