Проверяем ответы LLM по схеме

О чём урок

Одно из ключевых свойств LLM, отличающее их от традиционного программного обеспечения, заключается в вероятностном характере их выходных данных. Один и тот же вход (т.е. prompt) не всегда может давать один и тот же ответ. Хотя это свойство позволяет создавать совершенно новые классы приложений для обработки естественного языка, оно также означает, что эти приложения требуют механизма для валидации своих выходных данных. Шаг валидации выходных данных гарантирует надежность и предсказуемость приложения LLM. В этой статье мы рассмотрели, что такое валидация выходных данных и как ее реализовать с помощью Guardrails AI. Прочитайте сопутствующую статью здесь. Наша цель — извлечь подробную информацию о пациенте из медицинской карты. В качестве примера мы будем использовать следующую медицинскую карту: Мы хотим, чтобы извлеченная информация содержала следующие поля: Пол пациента Возраст пациента Список симптомов, каждый с оценкой тяжести и пораженной областью Список лекарств, каждое с информацией об реакции пациента на лекарство Давайте определим классы Pydantic ниже.

План урока

1. 1: Настройка
2. 2: Определение схемы вывода
3. 3: Инициализация объекта Guard на основе схемы
4. 4: Обертывание вызова LLM объектом Guard