AI-агенты на VDS
34 статей в разделе
Раздел о развёртывании AI-инструментов на собственном сервере — без зависимости от чужого API и с полным контролем над данными. Начало — что такое AI-агенты и зачем их держать на VDS, установка Ollama для запуска локальных LLM, веб-интерфейс Open WebUI поверх неё и сравнение движков вроде vLLM, llama.cpp и Text Generation WebUI под разное железо.
Дальше — построение собственных систем: агенты на LangChain и мультиагентные связки через CrewAI и AutoGen, no-code автоматизация в n8n и визуальный конструктор Flowise, RAG для ответов по своим документам с векторными базами Chroma, Qdrant или pgvector прямо в PostgreSQL. Разобрано подключение внешних API — OpenAI, Claude и Gemini, оценка их стоимости и сравнение между собой.
Есть и прикладные сценарии: Telegram-бот на связке LangChain и Ollama, чат-виджет для сайта на PHP и JavaScript, транскрипция речи через Whisper, генерация изображений в Stable Diffusion и ComfyUI, а также расчёт видеопамяти под модель и защита агентов от prompt injection.
- Локальные LLM: Ollama, vLLM, llama.cpp
- Агенты и RAG: LangChain, CrewAI, векторные БД
- No-code автоматизация: n8n и Flowise
- Мониторинг и безопасность AI-агентов