Коннекторы в Chat Completions

Урок 39 из 148 курса «Mistral AI Cookbook»: официальный курс Mistral AI Cookbook (Мистраль) на русском языке. Урок входит в платный доступ; первые уроки курса бесплатно.

О чём урок

Используйте коннекторы, встроенные инструменты и агенты с Chat Completions API (/v1/chat/completions) и Agent Completions API (/v1/agents/completions). Поддержка SDK: SDK mistralai поддерживает инструменты в стиле коннекторов в chat.complete(). Обратите внимание, что при вызове инструментов ответы используют messages (массив) вместо message (объект). Для выполнения этого руководства вам понадобится API key Mistral. В Studio перейдите в раздел API keys и создайте новый API key. Создайте файл .env в корне вашего проекта и добавьте ваш API key Mistral: Большинство рецептов предполагают: Действительный MISTRAL_API_KEY Существующий коннектор для рецептов с кастомными коннекторами — см. Создание агента-советника по базам данных для примера полного жизненного цикла коннектора, или создайте его в Studio Mistral предлагает два API для взаимодействия с моделями: Функция Conversations API Chat Completions API Endpoint /v1/conversations /v1/chat/completions Поддержка SDK client.beta.conversations client.chat.complete() Формат ответа outputs[] с type: "message.output" choices[] с messages (массив) при использовании инструментов Состояние многоходового диалога Stateless (отправка полной истории при каждом вызове) Stateless (отправка полной истории при каждом вызове) Выполнение инструментов На стороне сервера (автоматически) На стороне сервера с форматом multi_completion Лучше всего подходит для Новых интеграций, рабочих процессов агентов Приложений, совместимых с OpenAI, существующих реализаций чатов Используйте Chat Completions, когда: Вы мигрируете с OpenAI и хотите знакомый формат ответа Ваш существующий код использует структуру choices[].message Вам нужна совместимость с SDK в стиле OpenAI Используйте Conversations, когда: Вы создаете новые интеграции с нуля Вы хотите использовать рекомендуемый, новейший API Вы используете бета-функции SDK Chat completions с инструментами возвращают ответы в формате multi_completion, где каждый choice содержит массив messages вместо одного message. Вспомогательная функция ниже обрабатывает оба формата. Python (SDK): TypeScript: Все рецепты ниже ссылаются на эту вспомогательную функцию. Скопируйте ее в свой проект или встройте логику.

План урока

  1. Предварительные требования
  2. Установка
  3. Необходимые переменные окружения
  4. Что вам понадобится перед началом
  5. Conversations vs Completions — Когда что использовать
  6. Чтение ответов Completion
  7. Рецепты
  8. 1. Hello World — Базовый Chat Completion

Урок входит в полный доступ. Полный текст и видео открываются после оплаты. Первые уроки каждого курса бесплатны.

Полезные гиды