Типовые задачи для модели Command

О чём урок

Большие языковые модели (LLM), такие как модель Command, являются универсальными и могут применяться бесконечным числом способов, но если не распознавать шаблоны, в которых они могут быть полезны, это может показаться ошеломляющим. В этом блокноте мы рассмотрим несколько широких категорий использования модели Command. Прочитайте сопутствующую статью здесь. Давайте определим функцию генерации текста, которую мы будем использовать на протяжении всего этого блокнота. Наши примеры будут вращаться вокруг деятельности компании по запуску нового продукта — беспроводных наушников, такой как распространение информации, управление взаимодействием с клиентами и так далее. Для этого давайте определим текстовый фрагмент, содержащий описание продукта. Мы будем использовать этот фрагмент в нескольких примерах на протяжении всего блокнота. Мы начнем с наиболее общего типа использования — написания. Допустим, мы создаем приложение, в котором пользователи могут вводить несколько пунктов и получать готовое электронное письмо. Мы можем настроить prompt следующим образом: создать переменную для ввода текста пользователем и объединить ее вместе с описанием продукта в основной prompt. Этот вариант использования заключается в ответе на вопрос, заданный пользователем, будь то в сценарии однократного ответа на вопрос или в многократном диалоге с чат-ботом. Ответы на вопросы могут осуществляться как в закрытом, так и в открытом режиме. В режиме закрытых ответов на вопросы мы полагаемся на модель, которая отвечает на вопросы, основываясь на общих знаниях, на которых она была обучена. В открытой среде мы можем заставить модель обращаться к конкретным базам знаний, чтобы помочь ей хорошо выполнять свою работу. Таким образом, мы можем разработать систему, которая может обрабатывать вопросы, требующие фактических ответов. Другая форма написания — это мозговой штурм, когда мы хотим, чтобы модель генерировала список вариантов на основе заданного prompt. Это может быть для написания планов, генерации идей, предоставления критического анализа и так далее. Этот вариант использования заставляет модель мыслить широко и охватывать различные перспективы ситуации.

План урока

1. Endpoint Chat
2. Endpoint Classify (более оптимизированный вариант)