Text-to-SQL на Llama 3.3: быстрая демонстрация

О чём урок

Эта демонстрация показывает, как использовать Llama 3.3 для ответов на вопросы о базе данных SQLite. Мы будем использовать LangChain и облачного провайдера Llama Together.ai, где вы можете легко получить бесплатный API key (или вы можете использовать любого другого облачного провайдера Llama или даже Ollama, запущенную локально). Чтобы воссоздать файл nba_roster.db, выполните две команды ниже: python txt2csv.py для преобразования файла nba.txt в nba_roster.csv. Файл nba.txt был создан путем сбора информации о составе NBA из интернета. python csv2db.py для преобразования nba_roster.csv в nba_roster.db. Примечание: Если в приведенном выше prompt отсутствует фраза "just return the SQL query and nothing else", вы, вероятно, получите в ответе текст, отличный от SQL-запроса, что потребует дополнительной постобработки перед выполнением запроса к базе данных ниже. Поскольку мы не передали никакого контекста вместе с уточняющим вопросом Llama, она не знает ответа. Давайте попробуем исправить это, добавив контекст в уточняющий prompt. Поскольку у нас есть фраза "be concise, just output the SQL response", Llama 3 может просто сгенерировать SQL-оператор; в противном случае потребуется парсинг вывода.