Офлайн-ассистент для машины на Raspberry Pi через свой агент на локальной Qwen
Автор CarWatch возит в машине Raspberry Pi 5, на котором работает свой агент на локальной модели Qwen. Он читает данные OBD, отвечает голосом по инструкции к машине со ссылками на страницы и пишет в чат как участник.
Сделано со своим агентом
Что сделали
Raspberry Pi 5 (16 GB) едет в машине и запускает локальную модель Qwen3.6-35B через llama.cpp. Он читает живые данные OBD через Bluetooth-адаптер ELM327 и голосом отвечает на вопросы по 489-страничной инструкции к машине со ссылками на страницы. Как агент он пишет в чат-комнату. В репозитории сказано, что команды замков и окон через облако работают через Home Assistant, а предварительное включение кондиционера только следующая запланированная команда.
Что получилось
Модель генерирует около 3.5 токенов в секунду. Голос, инструкция и данные OBD отмечены как проверенные на настоящей машине. Предварительный запуск климата и общение с другими агентами указаны как возможные, но не показаны.
На что обратить внимание
Загрузка модели на 14 GB с microSD занимает около трёх минут. Генерация тоже медленная. Модели поменьше работают на Pi быстрее, но годятся скорее для простых вопросов.
Пояснение
OBD это диагностический разъём в машине, через который можно читать данные двигателя и ошибки. ELM327 это недорогой адаптер, который подключается к этому разъёму. Llama.cpp это программа для запуска языковых моделей локально без интернета.
Кому пригодится
Автолюбителям и энтузиастам Raspberry Pi, которые хотят ассистента в машине без облака.
Попробуйте сами
Помоги собрать офлайн-ассистента для машины на [модель Raspberry Pi] с локальной моделью. Он должен читать данные OBD моей [марка, модель и год машины] через [тип OBD-адаптера] и отвечать на вопросы по PDF-инструкции к машине из [путь]. В конце дай рабочий скрипт, который я могу запустить, и ответ на тестовый вопрос по живым или тестовым данным. Остановись, прежде чем отправлять команды, которые меняют настройки машины, например замки или кондиционер.
Нужна помощь с запуском? Вступайте в сообщество AI Pack ↗
Источник: github.com ·