О чём урок
Этот AI-ассистент работает на базе открытого Code Interpreter SDK от E2B. SDK быстро создает безопасную облачную sandbox-среду, работающую на базе Firecracker. Внутри этой sandbox-среды запущен Jupyter server, который может использовать LLM.
Подробнее о новой модели Codestral от Mistral можно прочитать здесь.
Начнем с установки E2B code interpreter SDK и Python SDK от Mistral.
Определим наши переменные с API-ключами для Mistral и E2B, а также ID модели и prompt.
Мы не будем определять никаких tools, поскольку этот пример разработан для универсальной работы, включая модели Mistral, которые еще не полностью поддерживают использование tools (function calling). Чтобы узнать больше о function calling с LLM от Mistral, см. эту страницу документации.
Мы инструктируем модель возвращать сообщения в Markdown, а затем парсим и извлекаем блок Python кода.
Вот основная функция, которая использует E2B code interpreter SDK. Мы будем вызывать эту функцию чуть дальше в коде, когда будем парсить ответ Codestral с tool calls.
Теперь мы определим и реализуем метод chat. В этом методе мы вызовем Codestral LLM, спарсим вывод, чтобы извлечь любой блок Python кода, и вызовем наш метод code_interpret, который мы определили выше.
Файл загружается в E2B sandbox-среду, где запущен наш code interpreter. Мы получаем удаленный путь к файлу в переменной remote_path.
На этом последнем шаге мы собираем все части воедино. Мы создаем новый экземпляр code interpreter-а, используя
а затем вызываем метод chat с нашим сообщением пользователя и экземпляром code_interpreter.
План урока
- Шаг 1: Установка зависимостей
- Шаг 2: Определение API-ключей и prompt-а
- Шаг 3: Реализация метода для интерпретации кода
- Шаг 4: Реализация метода для вызова Codestral и парсинга его ответа
- Шаг 5: Реализация метода для загрузки набора данных в sandbox-среду code interpreter-а
- Шаг 6: Собираем все воедино
Урок входит в полный доступ. Полный текст и видео открываются после оплаты. Первые уроки каждого курса бесплатны.