Саммари встреч: вручную и через LangChain

Цели урока

• Использовать модель Command-R от Cohere для суммирования стенограмм встреч.
• Изменять свой prompt, чтобы включить конкретные инструкции по форматированию, особенно если вывод модели используется в последующих приложениях.
• Использовать Command-R с LangChain для суммирования.

О чём урок

Добро пожаловать в Cohere! В этом блокноте вы узнаете, как: Для запуска этого блокнота вам понадобится ключ Cohere API. Если у вас нет ключа, перейдите на https://cohere.com/, чтобы сгенерировать свой ключ. Давайте загрузим стенограмму встречи, чтобы увидеть Command в действии! Если у вас есть собственная стенограмма, вы можете загрузить ее в Colab, используя свой любимый метод. Если нет, мы используем образец из набора данных QMSum. QMSum содержит очищенные стенограммы встреч с диаризованными докладчиками. Позже мы увидим, что представленный здесь рецепт не ограничивается стенограммами заметок со встреч, но распространяется на любые данные с диаризованными докладчиками! Давайте также проверим, скольким токенам соответствует эта стенограмма. Сначала мы покажем пример простой задачи суммирования. Используемый нами шаблон prompt показан ниже, и мы можем получить завершение, используя однострочный вызов Cohere API. При составлении этого prompt мы применили несколько лучших практик: Мы включаем преамбулу, наделяющую модель персоной. Мы используем заголовки в стиле Markdown (т.е. с ##) для разграничения преамбулы, текста для суммирования, инструкций и вывода. Другие лучшие практики и советы/хитрости по работе с prompt см. в нашем руководстве по prompt! Это сработало хорошо, но что, если вы хотите иметь больше контроля над резюме? Что, если вы хотите получить резюме в виде маркированного списка и хотите ровно 3 пункта в структуре JSON? Давайте попробуем добавить более конкретные инструкции по форматированию. Это сработало хорошо! Запрос структурированного ответа, такого как объект JSON, является отличным подходом для случаев использования, когда вам потребуется парсить или постобрабатывать вывод для использования в последующих приложениях. Чтобы обеспечить наилучшее завершение, я предоставил шаблон ожидаемого JSON, который модель заполнила. Давайте также попробуем запросить короткое резюме из 1 предложения. Также очень легко использовать Command-R с LangChain для суммирования. Command-R имеет контекстное окно в 128K токенов, поэтому вы можете использовать очень длинные документы или несколько документов в одном вызове API.

План урока

1. Настройка
2. Загрузка тестовых данных
3. Простое суммирование
4. Более продвинутое форматирование
5. Суммирование с помощью LangChain
6. Заключение