Урок из полного доступа, первые уроки курса бесплатно Официальный курс Cohere LLM University на русском
Урок 35 · Текст · ~5 мин

Суммаризация текста генеративной моделью

Урок 35 из 114 курса «Cohere: LLM University»: официальный курс Cohere LLM University (Кохир) на русском языке. Урок входит в платный доступ; первые уроки курса бесплатно.

О чём урок

Этот блокнот демонстрирует простой способ использования генеративных моделей Cohere для суммаризации текста.

Мы будем использовать простой prompt, который включает два примера и описание задачи:

"<input phrase>". In summary: "<summary>".

Наш prompt предназначен для перефразирования с целью упрощения входного предложения. Он содержит два примера. Предложение, которое мы хотим суммировать, это:

Косатки имеют разнообразный рацион, хотя отдельные популяции часто специализируются на определенных видах добычи.

Мы получаем несколько завершений от модели через API

Во многих случаях лучшие генерации могут быть получены путем создания нескольких генераций, а затем их ранжирования и фильтрации. В данном случае мы ранжируем генерации по их средним вероятностям.

Стоит уделить некоторое время изучению различных гиперпараметров конечной точки генерации. Например, temperature регулирует степень случайности в генерациях. Другие параметры включают top-k и top-p, а также frequency_penalty и presence_penalty, которые могут уменьшить количество повторений в выводе модели. Подробнее обо всех параметрах см. в справочнике API конечной точки generate.

Урок входит в полный доступ. Полный текст и видео открываются после оплаты. Первые уроки каждого курса бесплатны.

Откройте полный доступ

Вы прошли бесплатные уроки. Выберите тариф, чтобы продолжить обучение.

Курсы Cohere 1 490 ₽ Разовый платёж, навсегда
  • Все курсы от Cohere (1 шт.)
  • Именной сертификат по каждому пройденному курсу
Оплатить
Полный доступ 4 900 ₽ Разовый платёж, навсегда
  • Все 77 курсов от 11 AI-провайдеров
  • Библиотека промптов и новые курсы
Оплатить

Безопасная оплата через Robokassa: СБП, карты, электронные кошельки. Доступ откроется в этом браузере и придёт письмом. Уже оплатили? Восстановить доступ

Полезные гиды