AutoGen и Mistral Large: запросы к базе PostgreSQL

О чём урок

Этот учебник написан как пример использования Microsoft AutoGen в сочетании с Mistral Large V2 для запросов к базе данных Postgres. Он предлагает краткий и простой обзор того, как это сделать; также возможно написать дополнительные инструменты и добавить их для запросов к другим базам данных или, возможно, к VectorDB с идеальным prompt ;)! Помимо запросов и prompting, очень важен хороший контекст, поэтому я добавил дополнительную функцию для постоянного предоставления контекста всех доступных таблиц. ОБРАТИТЕ ВНИМАНИЕ: Старайтесь избегать одновременного использования слишком большого количества инструментов и контекстов; вместо этого используйте разные 'chat models' вместо одной большой модели для выполнения всех задач. На первых нескольких шагах мы установим Postgresql, после чего импортируем дамп базы данных. Я выбрал следующий дамп базы данных: name.basics.tsv, который можно найти здесь: https://datasets.imdbws.com/ https://wiki.postgresql.org/wiki/Sample_Databases Давайте импортируем все необходимые пакеты; в данном случае нам нужны autogen, пакет postgresql и некоторые другие библиотеки. Функция Postgres принимает действительный JSON-вход, на основе которого выполняется запрос. После этого функция возвращает output в LLM, который затем отвечает пользователю сообщением. Поскольку мы заранее определили, как использовать инструмент, невозможно удалять, обновлять или создавать какие-либо записи — только доступ для чтения! Введите ваш API ключ Mistral для доступа к Mistral-large-2407! :D Мы хотим предоставить LLM контекст всех таблиц, и он должен быть актуальным, поэтому мы создаем отдельную функцию, которая запрашивает инструмент Postgres, но с заранее определенным input для запроса всех таблиц. Теперь все готово для использования чата и запросов к базе данных Postgresql с помощью Mistral-Large-2407.