промпт-инжиниринг: Claude в Amazon Bedrock

О чём урок

Проверьте свои знания по материалам раздела.

1. Какова основная цель потоковой передачи (streaming) ответов от больших языковых моделей, таких как Claude?

1. Уменьшить затраты на выполнение запросов к модели.
2. Значительно улучшить отзывчивость приложений и пользовательский опыт.
3. Обеспечить возможность работы модели в офлайн-режиме.
4. Гарантировать получение полного ответа от модели до его отображения.

Ответ: B — Потоковая передача позволяет модели отправлять части ответа по мере их готовности, создавая иллюзию мгновенного ответа и значительно улучшая отзывчивость приложений, использующих LLM.

2. Для чего используются предзаполненные сообщения ассистента (prefilled assistant messages) при управлении выводом Claude?

1. Чтобы модель прекратила генерацию ответа на определенном слове.
2. Чтобы задать начальную часть ответа Claude и направить его дальнейшую генерацию.
3. Для добавления изображений или видео в ответ модели.
4. Чтобы изменить внутренние параметры модели, такие как температура.

Ответ: B — Предзаполненные сообщения ассистента позволяют предоставить начальную часть ответа Claude, сильно влияя на направление его дальнейшей генерации.

3. Что происходит, когда Claude генерирует стоп-последовательность (stop sequence)?

1. Модель игнорирует последовательность и продолжает генерацию.
2. Генерация немедленно останавливается, и стоп-последовательность включается в конечный ответ.
3. Генерация немедленно останавливается, и стоп-последовательность не включается в конечный ответ.
4. Модель начинает генерировать альтернативные варианты ответа.

Ответ: C — Как только Claude генерирует любую из указанных стоп-последовательностей, он немедленно останавливается и возвращает все, что было сгенерировано до этого момента. Сама стоп-последовательность не включается в конечный ответ.

4. Какая комбинация техник наиболее эффективна для получения чистых, структурированных данных (например, JSON) от Claude без лишнего пояснительного текста?

1. Использование только стоп-последовательностей без предзаполнения сообщения ассистента.
2. Использование только предзаполнения сообщения ассистента без стоп-последовательностей.
3. Комбинирование предзаполнения сообщения ассистента с открывающим ограничителем формата (например, "```json") и стоп-последовательности с закрывающим ограничителем ("```").
4. Многократное повторение запроса, пока Claude не выдаст нужный формат.

Ответ: C — Для получения чистых структурированных данных без лишних оберток рекомендуется комбинировать предзаполнение сообщения ассистента (например, "```json") и установку стоп-последовательности, соответствующей закрывающему ограничителю (например, "```").

5. В контексте типового рабочего процесса оценки промптов, что…