Свой агент на LangChain и локальной Llama 2 для анализа CSV
Участник обсуждения на Reddit искал, как анализировать CSV с Llama 2 через LangChain. В итоге он советует create_python_agent. Свой агент на нём с моделью Nous Hermes Llama 2 13B, по его словам, работал достаточно хорошо.
Сделано со своим агентом
Что сделали
Обсуждение очень скудное. Автор поста спрашивал, как анализировать CSV-файл с Llama 2 через LangChain. Python-агент LangChain с поддержкой pandas хорошо работал у него с моделями OpenAI, но плохо с квантованной Llama на 7B. В ответах тот же пользователь написал, что вместо агента для pandas стоит взять create_python_agent из LangChain. С моделью nous-hermes-llama2 13B он работает достаточно хорошо.
Что получилось
Результат описан только на словах. Квантованная Llama на 7B разочаровала, а create_python_agent с Nous Hermes Llama 2 13B работал достаточно хорошо. Примера задачи, метрик и описания сбоев в обсуждении нет.
На что обратить внимание
В источнике нет ни схемы работы, ни промпта, ни замеров. Названы только create_python_agent и модель Nous Hermes Llama 2 13B.
Пояснение
LangChain это библиотека для создания агентов на Python. create_python_agent создаёт агента, который сам пишет и выполняет код на Python, а pandas это библиотека для работы с таблицами. Квантованная модель это сжатая версия, которая меньше весит и быстрее работает на обычном компьютере, но может терять в качестве. Обозначения 7B и 13B значат 7 и 13 миллиардов параметров.
Кому пригодится
Тем, кто хочет анализировать свои данные локальной моделью, не отправляя их в облако.
Попробуйте сами
У меня есть набор данных в [путь к CSV или файлу с данными], и я хочу понять [вопрос, например какие товары приносят больше всего выручки по месяцам]. Загрузи файл, проверь пропуски и странные значения, затем проведи анализ, сам написав и выполнив код на Python, и показывай мне код и результаты на каждом шаге. В конце дай короткое понятное резюме выводов и один график, сохранённый в [папка для результатов]. Не меняй и не удаляй исходный файл с данными.
Нужна помощь с запуском? Вступайте в сообщество AI Pack ↗
Источник: reddit.com ·