Домашний чат-сервер Open WebUI и аккаунты с телефона через Hermes Agent
Комментатор Hacker News поручил Hermes Agent на локальной модели Qwen поднять сервер Open WebUI и управлял аккаунтами с телефона. В итоге у его ребёнка-подростка появился свой аккаунт в домашней сети.
Что сделали
Автор запускает Qwen3.6-35B-A3B на домашнем сервере через llama.cpp, а чатом служит Open WebUI. Агент на той же модели, работающий в Hermes Agent, сам настроил сервер Open WebUI. Через него же автор управлял аккаунтами со своего телефона. Так ребёнок-подросток получил личный аккаунт в домашней сети.
Что получилось
У подростка свой аккаунт, и он заходит в него, когда ему что-то интересно. Автор считает, что локальные модели хорошо справляются с чатом, исследованиями и поиском неполадок, но пока сохраняет платную подписку Anthropic.
На что обратить внимание
По мнению автора, локальные модели подходят для личного пользования, а для сложной работы агентов с кодом всё ещё есть смысл брать лучшие облачные модели.
Пояснение
Open WebUI это веб-интерфейс чата для моделей, которые работают у вас на компьютере. llama.cpp это программа для запуска языковых моделей на своём железе. Qwen это семейство открытых моделей от Alibaba.
Кому пригодится
Тем, кто держит дома сервер с локальной моделью и хочет дать доступ к ней всей семье.
Попробуйте сами с Hermes Agent
Установи Open WebUI на [машина, например домашний сервер] с подключением к моей локальной модели по адресу [адрес модели] и сделай его доступным в домашней сети по [адрес или порт]. Создай аккаунты для [имена] и объясни, как управлять ими с телефона. В конце дай мне адрес для входа и подтверди, что из каждого аккаунта можно писать в чат. Спроси меня, прежде чем открывать порты или удалять аккаунты.
Нужна помощь с запуском? Вступайте в сообщество AI Pack ↗
Источник: news.ycombinator.com ·