О чём урок
- Урок
- Упражнения
- Пример песочницы
Запустите следующую ячейку настройки, чтобы загрузить ваш API key и установить вспомогательную функцию get_completion.
Плохие новости: Claude иногда "галлюцинирует" и делает заявления, которые являются ложными или необоснованными. Хорошие новости: существуют методы, которые можно использовать для минимизации галлюцинаций.
Ниже мы рассмотрим несколько из этих методов, а именно: - Предоставление Claude возможности сказать, что он не знает ответа на вопрос - Просьба к Claude найти доказательства перед ответом
Однако существует множество методов, позволяющих избежать галлюцинаций, включая многие из техник, которые вы уже изучили в этом курсе. Если Claude галлюцинирует, экспериментируйте с несколькими техниками, чтобы заставить Claude повысить свою точность.
Вот вопрос об общих фактических знаниях, в ответ на который Claude галлюцинирует нескольких больших бегемотов, потому что пытается быть максимально полезным.
Одно из решений, которое мы можем попробовать здесь, это "дать Claude возможность отказаться" — сказать Claude, что ему разрешено отказаться от ответа или отвечать только в том случае, если он действительно знает ответ с уверенностью.
В следующем промпте мы даем Claude длинный документ, содержащий "отвлекающую информацию", которая почти, но не совсем релевантна вопросу пользователя. Без помощи промпта Claude поддается отвлекающей информации и дает неверный, "галлюцинаторный" ответ относительно размера абонентской базы Matterport по состоянию на 31 мая 2020 года.
Примечание: Как вы узнаете позже в следующей главе, лучше всего размещать вопрос внизу после любого текста или документа, но здесь мы поместили его сверху, чтобы промпт было легче читать. Вы можете дважды щелкнуть на ячейке промпта, чтобы получить полный текст промпта (он очень длинный!).
Как это исправить? Отличный способ уменьшить галлюцинации при работе с длинными документами — это заставить Claude сначала собрать доказательства.
В этом случае мы говорим Claude сначала извлечь соответствующие цитаты, а затем основывать свой ответ на этих цитатах. Указание Claude сделать это здесь позволяет ему правильно заметить, что цитата не отвечает на вопрос.
План урока
- Глава 8: Как избежать галлюцинаций
- Настройка
- Урок
- Примеры
Урок входит в полный доступ. Полный текст и видео открываются после оплаты. Первые уроки каждого курса бесплатны.