День 10. Свой сервер с ИИ
⏱ Время: 90 минут 🎯 Цель: Личный «ChatGPT» в облаке — доступен с любого устройства круглосуточно 🛠 Нужно: VPS (Timeweb Cloud или Hetzner) · Docker · Ollama · Open WebUI
Зачем это тебе
Катя управляет карточками на Wildberries — 400 позиций, три поставщика, постоянное обновление описаний и ответов на отзывы. Она давно подружилась с ChatGPT: диктует голосом в телефон, получает тексты, правит, загружает. Работает неплохо.
Но однажды в пятницу вечером, когда нужно срочно переписать 20 карточек перед акцией, ChatGPT зависает. Потом она узнаёт: в России у части провайдеров нестабильный доступ, а на телефоне вообще приходится держать VPN, который то работает, то нет. Кроме того — ChatGPT не помнит её стиль, шаблоны, специфику её магазина. Каждый раз объяснять всё заново.
Катин коллега Артём показал ей свою альтернативу: он открывает браузер на телефоне, вводит свой IP-адрес — и видит тот же красивый интерфейс, похожий на ChatGPT. Работает без VPN, без американских серверов, не падает в пятницу вечером. Он платит за это 600 рублей в месяц за аренду сервера в Москве.
После сегодняшнего урока у тебя будет то же самое: личный ИИ-ассистент на собственном сервере, доступный по прямой ссылке с телефона, планшета и компьютера, который никуда не пропадёт, не заблокируется и работает 24 часа в сутки.
Теория
VPS — твой кусочек сервера в интернете
Представь, что в огромном офисном здании (дата-центр) стоят тысячи мощных компьютеров, которые работают круглосуточно. Владелец здания нарезает эти мощности на части и сдаёт в аренду. Ты платишь за «квартиру» — выделенный кусок с процессором, памятью и диском. Это и есть VPS (Virtual Private Server, виртуальный частный сервер).
Главное отличие от твоего ноутбука: этот компьютер никогда не выключается, всегда подключён к интернету и у него есть постоянный адрес — IP. Ты получаешь к нему доступ откуда угодно.
Где арендовать:
- Timeweb Cloud — российский провайдер, серверы в Москве, оплата в рублях, поддержка на русском. Подходящий тариф стоит 500–800 ₽/мес. Для учебных задач и небольшого рабочего ИИ — оптимальный выбор.
- Hetzner — немецкий провайдер, серверы в Европе, оплата в евро (~15€/мес). Более мощные машины за те же деньги, но нужна карта для оплаты за рубеж.
Минимальные требования для запуска ИИ-модели:
- 4 ядра CPU — чтобы модель считала ответы в разумное время
- 8 ГБ RAM — ИИ-модели «живут» в памяти, меньше 8 ГБ и нечего запускать
- 40 ГБ SSD — сами модели весят от 4 до 8 ГБ каждая
Ubuntu — операционная система сервера
На твоём сервере будет не Windows, а Ubuntu — это как другой язык для компьютера, который специально создан для серверов. Он надёжнее, безопаснее и бесплатен. Большинство туториалов в интернете написаны именно под Ubuntu. Нам нужна версия 22.04 — проверенная, стабильная.
Управлять Ubuntu ты будешь не мышкой, а командами в терминале. Это пугает только поначалу — уже через 10 минут работы станет понятно, что это просто другой интерфейс.
SSH — удалённый пульт управления
SSH (Secure Shell) — это зашифрованный канал связи между твоим компьютером и сервером. Представь: ты пишешь команды на своей клавиатуре, а выполняются они на сервере в Москве. Всё что видишь на экране — это экран сервера.
Одна строка в терминале:
ssh root@78.17.146.144
— и ты «внутри» сервера. root — это имя администратора, а после @ идёт IP-адрес твоего сервера. Timeweb и Hetzner дадут тебе этот IP и пароль сразу после создания сервера.
Docker — коробки для программ
Устанавливать программы на сервер «по-старому» — долго и чревато конфликтами. Docker решает это элегантно: каждая программа живёт в своей изолированной «коробке» (контейнере). Ты не устанавливаешь Ollama, ты запускаешь коробку с Ollama. Сломалось — выбросил и запустил новую. Быстро и чисто.
Установка Docker — одна команда, которую скопируешь с официального сайта. Система сама скачает и настроит всё что нужно.
Ollama — движок для ИИ-моделей
Ollama — программа, которая умеет скачивать и запускать языковые модели на твоём сервере. Представь её как «плеер», а модели — как «фильмы». Хочешь Llama 3 — пишешь ollama pull llama3. Хочешь Mistral — ollama pull mistral. Ollama сама скачает нужные файлы и будет держать модель в памяти для быстрых ответов.
Для работы с маркетплейсами отлично подходят:
- llama3.2:3b — лёгкая, быстрая, отвечает за секунды
- mistral:7b — умнее, отвечает за 10–30 секунд, лучше с длинными текстами
- gemma2:9b — хорошо пишет по-русски
Open WebUI — красивый интерфейс
Ollama работает «под капотом» без визуального интерфейса — как двигатель без кузова. Open WebUI — это кузов: красивый браузерный интерфейс, похожий на ChatGPT. Ты открываешь его по адресу http://ВАШ_IP:3000 и видишь привычный чат с моделью. Работает с любого устройства в браузере.
Демо: смотрим как работает
Шаг 1. Регистрация и создание сервера на Timeweb Cloud
Открываем timeweb.cloud, регистрируемся. В разделе «Облачные серверы» нажимаем «Создать сервер».
Выбираем:
- Образ: Ubuntu 22.04
- Конфигурация: 4 vCPU / 8 ГБ RAM / 50 ГБ SSD (тариф примерно 700 ₽/мес)
- Регион: Москва
- Метод доступа: Пароль (пока без SSH-ключей, для простоты)
Нажимаем «Создать». Через 1–2 минуты сервер готов. На почту и в интерфейсе появляется IP-адрес и пароль root.
Шаг 2. Подключение по SSH
На Mac и Linux открываем приложение «Терминал». На Windows — программу PowerShell (найди через поиск) или установи PuTTY.
Пишем:
ssh root@ВАШ_IP
Система спросит: «Are you sure you want to continue?» — отвечаем yes и жмём Enter.
Вводим пароль (символы не отображаются — это нормально). Enter.
Видим приглашение командной строки вида root@ubuntu-server:~# — ты внутри сервера.
Шаг 3. Установка Docker
Копируем и вставляем одну команду:
curl -fsSL https://get.docker.com | sh
Идёт установка — займёт 1–3 минуты. В конце проверяем:
docker --version
Должны увидеть что-то вроде Docker version 27.x.x.
Шаг 4. Установка Ollama
curl -fsSL https://ollama.com/install.sh | sh
После установки скачиваем модель. Начнём с лёгкой:
ollama pull llama3.2:3b
Скачивается ~2 ГБ — пока идёт, переходим к следующему шагу.
Шаг 5. Запуск Open WebUI
Одна команда запускает весь интерфейс:
docker run -d \
-p 3000:8080 \
--add-host=host.docker.internal:host-gateway \
-v open-webui:/app/backend/data \
--name open-webui \
--restart always \
ghcr.io/open-webui/open-webui:main
Docker скачает образ (~1 ГБ) и запустит контейнер. Проверяем:
docker ps
Должны увидеть строку с open-webui и статусом Up.
Шаг 6. Открываем в браузере
В браузере (на любом устройстве!) открываем:
http://ВАШ_IP:3000
Видим экран регистрации Open WebUI. Создаём аккаунт администратора — это локальный аккаунт только для твоего сервера. После входа — интерфейс как у ChatGPT, в выпадающем списке выбираем llama3.2:3b и пишем первый запрос.
Пробный промпт прямо в Open WebUI:
Напиши описание для карточки товара: беспроводные наушники TWS,
время работы 8 часов, влагозащита IPX5, цвет — белый.
Стиль: живой, продающий, для Wildberries. 150–200 слов.
Смотрим на ответ — модель работает прямо на твоём сервере, без интернет-запросов к OpenAI.
Практика
Задание 1. Создать сервер
Зайди на timeweb.cloud или hetzner.com, зарегистрируйся и создай сервер с параметрами: Ubuntu 22.04, 4 CPU, 8 ГБ RAM. Зафиксируй в блокноте: IP-адрес и пароль root.
Задание 2. Подключиться по SSH и установить всё
Подключись к серверу через терминал (Mac/Linux) или PowerShell (Windows). Последовательно выполни три установки: Docker → Ollama → Open WebUI — по инструкции из демо. После каждого шага убеждайся, что команда отработала без ошибок.
Задание 3. Скачать две модели и сравнить
После установки скачай две модели:
ollama pull llama3.2:3b
ollama pull mistral:7b
В Open WebUI задай одинаковый промпт обеим моделям и сравни качество ответа и скорость. Запиши наблюдение: для каких задач подойдёт каждая?
Задание 4. Открыть Open WebUI с телефона
Возьми телефон, открой браузер и введи http://ВАШ_IP:3000. Войди в свой аккаунт. Напиши три описания для реальных товаров из своего магазина — прямо с телефона. Убедись, что работает без VPN.
Задание 5. Написать системный промпт под свой магазин
В Open WebUI найди раздел «Настройки» → «Системный промпт» (или создай новый чат с настройками модели). Задай контекст:
Ты помощник менеджера маркетплейса. Магазин продаёт [твоя категория].
Наш стиль текстов: [опиши стиль — деловой / дружеский / экспертный].
Всегда пиши по-русски, объём описания — 150–200 слов.
Избегай слов: уникальный, инновационный, революционный.
Самостоятельная работа
Домашнее задание: рабочий ИИ в кармане
Открой свой Open WebUI с телефона — именно с телефона, не с компьютера. Напиши три описания карточек для реальных товаров из своего ассортимента. Используй одну и ту же задачу в ChatGPT (или Claude) для сравнения.
Запиши ответы на три вопроса:
- В чём разница в удобстве между телефонным ChatGPT и твоим Open WebUI?
- Что понравилось в своём сервере, чего нет в ChatGPT?
- Что пока хуже или неудобнее?
Результат: три готовых описания товаров + письменное сравнение двух инструментов. Принеси на следующий урок — будем разбирать, как настроить модель точнее под твой стиль.
Чек-лист урока
- [ ] Понимаю, что такое VPS и чем он отличается от обычного компьютера
- [ ] Зарегистрировался на Timeweb Cloud или Hetzner и создал сервер
- [ ] Подключился к серверу по SSH с терминала
- [ ] Установил Docker, Ollama и Open WebUI — всё работает
- [ ] Открыл Open WebUI с телефона без VPN и написал тестовый запрос
- [ ] Домашнее задание выполнено: три описания товаров + сравнение с ChatGPT