Свой интерпретатор кода: инструменты на лету с o3-mini

Цели урока

• Настроить изолированную среду выполнения кода Python с использованием Docker
• Настроить собственный инструмент code interpreter для LLM agents
• Установить чёткое разделение «Agentic» задач для обеспечения безопасности
• Использовать модель **o3-mini** для динамической генерации кода для анализа данных
• Оркестрировать agents для эффективного выполнения заданной задачи

О чём урок

В основе способности LLM Agent взаимодействовать с внешним миром или другими Agents лежит «вызов инструмента (или функции)», при котором LLM может вызывать функцию (блок кода) с аргументами. Обычно эти функции заранее определяются разработчиком вместе с их ожидаемыми входными и выходными данными. Однако в этом Cookbook мы исследуем более гибкую парадигму — **динамическую генерацию инструментов** с использованием моделей LLM (в данном случае **o3-mini**) с возможностью выполнения инструмента с помощью code interpreter. Динамически генерируемый инструмент — это функция или блок кода, созданный самой LLM во время выполнения на основе prompt пользователя. Это означает, что вам не нужно заранее определять каждый возможный сценарий в вашей кодовой базе, что обеспечивает гораздо более открытое, творческое и адаптивное решение проблем. Вызов динамически генерируемых инструментов идёт ещё дальше, предоставляя LLM возможность генерировать инструменты и выполнять блоки кода на лету. Этот динамический подход особенно полезен для задач, которые включают: Анализ и визуализация данных Манипулирование и преобразование данных Генерация и выполнение рабочих процессов машинного обучения Автоматизация процессов и создание скриптов И многое другое, поскольку новые возможности появляются в ходе экспериментов Выпущенная 31 января 2025 года модель o3-mini обладает исключительными STEM-возможностями — с особой силой в науке, математике и кодировании — при этом сохраняя низкую стоимость и уменьшенную latency меньших моделей. В этом Cookbook мы продемонстрируем возможности o3-mini по генерации кода на Python для интерпретации данных и извлечения выводов. Модели, основанные на рассуждениях, особенно хорошо генерируют динамические инструменты для анализа данных, поскольку они могут рассуждать самостоятельно, без необходимости явного chain-of-thought prompt. Фактически, предоставление явных инструкций chain of thought может помешать внутренним рассуждениям модели и привести к субоптимальным результатам. Вы можете узнать больше о o3-mini здесь.

План урока

1. Создайте собственный интерпретатор кода — Динамическая генерация и выполнение инструментов с o3-mini
2. Вызов динамически генерируемых инструментов с помощью Code Interpreter
3. Использование o3-mini для динамической генерации инструментов
4. Зачем создавать собственный code interpreter
5. Что вы узнаете
6. Пример сценария
7. Обзор
8. Шаг 1: Настройка изолированной среды выполнения кода в контейнере