О чём урок
Codestral — это передовая генеративная модель, специально разработанная и оптимизированная для задач генерации кода, включая заполнение пропущенных фрагментов и автодополнение кода. Codestral была обучена на более чем 80 языках программирования, что позволяет ей эффективно работать как с распространёнными, так и с менее распространёнными языками.
Мы можем объединить возможности Codestral по генерации кода с подходом самокоррекции, представленным в статье AlphaCodium, итеративно формируя ответ на вопрос по программированию.
Мы реализуем некоторые из этих идей с нуля, используя LangGraph, чтобы 1) получать структурированный вывод генерации кода от Codestral-instruct, 2) выполнять встроенные модульные тесты для подтверждения работы импортов и выполнения кода, 3) передавать любые ошибки обратно Codestral для самокоррекции.
Мы будем использовать Mistral API и instruct-модель Codestral, которые поддерживают tool use!
При желании вы можете использовать LangSmith для tracing.
Тестирование со структурированным выводом.
Мы построим описанный выше рабочий процесс в виде графа, используя LangGraph.
Схема state графа содержит ключи, которые мы хотим:
- Передавать каждому node в нашем графе
- Иногда изменять в каждом node нашего графа
См. концептуальную документацию здесь.
Мы добавим persistence к графу, используя checkpointer.
Трассировка:
https://smith.langchain.com/public/a59ec940-f618-411d-adc9-1781816e7627/r
Трассировка:
https://smith.langchain.com/public/4bd4cee1-75b1-453e-a7c4-ea3ae0249223/r
План урока
- LLM
- Генерация кода
- Состояние графа
- Граф
Урок входит в полный доступ. Полный текст и видео открываются после оплаты. Первые уроки каждого курса бесплатны.