LLM-ассистенты по документам компании с RAG в n8n и их подводные камни
Комментатор на Reddit рассказал, как собрал в компании на n8n несколько LLM-ассистентов для API AutoCAD Forge и поиска по документам компании через RAG. Работало в целом сносно, но нестабильно.
Что сделали
В рабочем проекте на n8n комментатор настроил несколько LLM-ассистентов. Они делали запросы к API AutoCAD Forge и работали с информацией компании через парсинг, эмбеддинги и RAG. Начать на n8n, по его словам, было проще, чем на Python. Но модели иногда отправляли запросы не в ту базу Supabase. При изменённых инженерных чертежах и нужных схемах SMP часто требовался человек.
Что получилось
Со значительной частью работы система справлялась, но ответы были непостоянными. Работа с API шла тяжело, информация плохо передавалась между ассистентами, а парсинг и RAG в n8n собирать было сложнее, чем в Python. Цифр комментатор не приводит.
На что обратить внимание
Главный вывод комментатора про компромисс. С n8n проще начать, но часть работы с Forge API скрипт на Python, по его словам, сделал бы всего за несколько часов.
Пояснение
RAG (retrieval-augmented generation) это подход, при котором модель перед ответом ищет нужные фрагменты в базе документов. Эмбеддинги это числовые представления текста для такого поиска. AutoCAD Forge это облачные API Autodesk для работы с чертежами и проектными моделями.
Кому пригодится
Инженерным и техническим командам, которые выбирают между n8n и кодом на Python для ассистента по внутренним документам.
Попробуйте сами с n8n
Собери в n8n сценарий, через который я могу задавать вопросы в [чат или Slack] о данных компании из [Google Drive, Notion или база данных]. Он должен разбирать документы и делить их на части, сохранять эмбеддинги в векторное хранилище и отвечать через поиск по ним со ссылкой на исходный документ. Данные только читать, ничего не менять и не удалять. Готово, когда он правильно отвечает на [три тестовых вопроса] и показывает источники.
Нужна помощь с запуском? Вступайте в сообщество AI Pack ↗
Источник: reddit.com ·