О чём урок
Этот блокнот демонстрирует простой способ использования генеративных моделей Cohere для суммаризации текста. Мы будем использовать простой prompt, который включает два примера и описание задачи: "<input phrase>". In summary: "<summary>". Наш prompt предназначен для перефразирования с целью упрощения входного предложения. Он содержит два примера. Предложение, которое мы хотим суммировать, это: Косатки имеют разнообразный рацион, хотя отдельные популяции часто специализируются на определенных видах добычи. Мы получаем несколько завершений от модели через API Во многих случаях лучшие генерации могут быть получены путем создания нескольких генераций, а затем их ранжирования и фильтрации. В данном случае мы ранжируем генерации по их средним вероятностям. Стоит уделить некоторое время изучению различных гиперпараметров конечной точки генерации. Например, temperature регулирует степень случайности в генерациях. Другие параметры включают top-k и top-p, а также frequency_penalty и presence_penalty, которые могут уменьшить количество повторений в выводе модели. Подробнее обо всех параметрах см. в справочнике API конечной точки generate.
Урок входит в полный доступ. Полный текст и видео открываются после оплаты. Первые уроки каждого курса бесплатны.