Температура: насколько смелые ответы

Урок 10 из 100 курса «Claude в Google Vertex AI»: официальный курс Anthropic Academy (Антропик) на русском языке. Урок входит в платный доступ; первые уроки курса бесплатно.

Кадр из видеоурока

О чём урок

Параметр Temperature — это мощный инструмент, который позволяет контролировать предсказуемость или креативность ответов Claude. Понимание того, как эффективно использовать этот параметр, может значительно улучшить ваши приложения, работающие с искусственным интеллектом, особенно при интеграции Claude через Google Vertex AI. Прежде чем углубляться в детали параметра Temperature, полезно понять, как Claude генерирует текст. Когда вы отправляете Claude запрос, например: "Что вы думаете?", процесс генерации проходит через несколько основных этапов: Разбиение ввода на токены: Claude сначала анализирует ваш запрос, разбивая его на более мелкие смысловые единицы, называемые токенами. Токен может быть словом, частью слова, знаком препинания или даже пробелом. Расчет вероятностей: Затем Claude, основываясь на своей обширной модели языка (LLM), вычисляет вероятности для каждого возможного следующего токена. Например, после слова "Я" Claude может присвоить высокую вероятность токенам "думаю", "хочу", "знаю" и так далее, а низкую — совершенно несвязанным словам. Выбор токена: Наконец, Claude выбирает один токен на основе этих вероятностей. Этот процесс повторяется снова и снова, токен за токеном, пока не будет сформирован полный и связный ответ. Например, если Claude нужно продолжить фразу "Что вы думаете...", он может присвоить 30% вероятности токену "о", 20% — "бы", 10% — "нас" и так далее. Модель выбирает один токен и повторяет этот процесс, чтобы построить полный ответ. Параметр Temperature — это десятичное значение в диапазоне от 0.0 до 1.0, которое напрямую влияет на эти вероятности выбора токенов. Его можно представить как регулятор "креативности" или "непредсказуемости" ответов Claude. Низкие значения Temperature (близкие к 0): При низких значениях Temperature Claude становится очень детерминированным. Он почти всегда выбирает токен с самой высокой вероятностью. Это приводит к очень предсказуемым, сфокусированным и часто повторяющимся ответам. Модель "придерживается" наиболее очевидного пути. Высокие значения Temperature (близкие к 1): При высоких значениях Temperature Claude распределяет вероятности более равномерно между различными вариантами токенов. Это означает, что даже токены с относительно низкой вероятностью имеют шанс быть выбранными.

План урока

  1. Введение: Параметр Temperature в Claude
  2. Как Claude генерирует текст
  3. Что такое параметр Temperature?
  4. Диапазоны Temperature и сценарии использования
  5. Низкие значения Temperature (0.0 - 0.3)
  6. Средние значения Temperature (0.4 - 0.7)
  7. Высокие значения Temperature (0.8 - 1.0)
  8. Применение Temperature в коде

Урок входит в полный доступ. Полный текст и видео открываются после оплаты. Первые уроки каждого курса бесплатны.

Полезные гиды