Оценка качества промптов на русском — курс Anthropic Academy

Методы оценки промптов: code-graded, classification, custom graders и model-graded подходы.

«Оценка качества промптов» адресована тем, кто уже использует Claude в продукте или внутреннем инструменте и хочет понимать, стал ли промпт лучше после очередной правки. Обычно такие решения принимаются на глаз: прочитали пару ответов и решили, что стало хорошо. Курс учит заменять это впечатление измерениями. Уровень продвинутый, в программе девять текстовых уроков примерно на 45 минут. Это официальный курс Anthropic на русском языке, он открывается без VPN, первые три урока можно пройти бесплатно.

Начинается программа с основ: зачем вообще измерять качество ответов и как устроен процесс оценки промпта. Затем показано, как проводить оценки в Anthropic Workbench, не выходя из привычного интерфейса. Следующий блок посвящён автоматической проверке кодом. Сначала это простая проверка, где ответ модели сравнивается с ожидаемым, а затем задача классификации, на которой хорошо видно, как считать долю правильных ответов и находить повторяющиеся ошибки. Эти примеры намеренно простые: на них легче всего понять саму логику оценки, прежде чем переходить к более гибким инструментам и сложным критериям. Код из уроков можно взять за основу для собственных тестов.

Большая часть курса построена вокруг promptfoo, инструмента для регулярного тестирования промптов. Вы познакомитесь с его устройством, оцените с его помощью классификацию, напишете собственные проверки на коде и настроите оценку с помощью модели, когда одна модель выставляет баллы ответам другой по заданным критериям. Такой подход нужен там, где правильный ответ не сводится к точному совпадению: для свободных текстов, кратких изложений, ответов поддержки. Завершает курс урок о собственной оценке с помощью модели без готового инструмента, чтобы вы понимали, как этот механизм работает изнутри.

После курса вы сможете строить оценки четырёх типов: проверки кодом, оценку классификации, собственные проверки и оценку моделью. Вы научитесь использовать Anthropic Workbench и promptfoo для регулярных прогонов, сравнивать версии промптов по цифрам, а не по ощущениям, и замечать, когда изменение улучшает один сценарий, но ломает другой. Этот курс по оценке промптов логично проходить после базовых материалов по промпт-инжинирингу, когда вы уже пишете промпты и хотите поставить работу с ними на системную основу.

Курс из программы Anthropic Academy (Антропик) на русском языке. Первые 3 3 урока бесплатно, без VPN.

Официальный курс Anthropic в переводе на русский язык, для продвинутых. Открывается без VPN: все уроки, видео и субтитры уже переведены и лежат на нашей платформе. 9 уроков, первые 3 бесплатно, дальше разовая оплата без подписки.

Уровень: Продвинутый. Длительность: около 45 минут. Формат: текст с примерами.

Что вы сможете после курса

Почему этому курсу можно доверять

Уроки курса

  1. Оценка промптов: основы
  2. Оценка промптов в Anthropic Workbench
  3. Простая автоматическая проверка кодом
  4. Проверка кодом на задаче классификации
  5. Знакомство с promptfoo
  6. Promptfoo: оцениваем классификацию
  7. Promptfoo: свои проверки на коде
  8. Promptfoo: оценка с помощью модели
  9. Своя оценка с помощью модели

Вопросы о курсе

Курс бесплатный?

Первые 3 3 урока открыты бесплатно и без входа. Остальные уроки открывает доступ к курсам Anthropic (1490 руб) или полный доступ ко всем курсам платформы (4900 руб), разовый платёж без подписки.

Нужен ли VPN?

Нет. Оригинал курса опубликован Anthropic на английском и часто недоступен из России, а здесь все уроки, видео и субтитры уже переведены и открываются без VPN.

На каком языке курс?

На русском: переведены тексты уроков и субтитры к видео, термины и примеры кода сохранены в оригинале.

Выдаётся ли сертификат?

Да. После прохождения всех уроков курса при платном доступе выдаётся именной сертификат AI University с номером и QR-кодом, PDF приходит на почту, подлинность проверяется по номеру на сайте. Сертификат о прохождении курса не является документом об образовании.

Полезные гиды