Как дообучить чат-модель

О чём урок

Fine-tuning улучшает модель, обучая её на значительно большем количестве примеров, чем может поместиться в prompt, что позволяет достигать лучших результатов в широком спектре задач. Этот notebook содержит пошаговое руководство по нашему новому fine-tuning для GPT-4o mini. Мы выполним извлечение сущностей, используя набор данных RecipeNLG, который содержит различные рецепты и список извлечённых общих ингредиентов для каждого. Это распространённый набор данных для задач распознавания именованных сущностей (NER). Примечание: fine-tuning GPT-4o mini доступен разработчикам в наших уровнях использования Tier 4 и 5. Вы можете начать fine-tuning GPT-4o mini, посетив свою панель управления fine-tuning, нажав «create» и выбрав “gpt-4o-mini-2024-07-18” из выпадающего списка базовых моделей. Мы рассмотрим следующие шаги: Настройка: нашего набора данных и фильтрация до одного домена для fine-tuning. Подготовка данных: Подготовка данных для fine-tuning путём создания обучающих и валидационных примеров и их загрузка на endpoint Files. Fine-tuning: Создание вашей fine-tuned модели. Inference: Использование вашей fine-tuned модели для inference на новых входных данных. К концу этого руководства вы сможете обучать, оценивать и развёртывать fine-tuned модель gpt-4o-mini-2024-07-18. Для получения дополнительной информации о fine-tuning вы можете обратиться к нашему руководству по документации или справочнику API. Fine-tuning работает лучше всего, когда сосредоточен на определённой предметной области. Важно убедиться, что ваш набор данных достаточно сфокусирован для обучения модели, но при этом достаточно обобщён, чтобы не пропустить ранее не встречавшиеся примеры. Учитывая это, мы извлекли подмножество из набора данных RecipesNLG, чтобы оно содержало только документы с cookbooks.com. title ingredients directions link source NER 0 No-Bake Nut Cookies ["1 c. firmly packed brown sugar", "1/2 c. eva... ["In a heavy 2-quart saucepan, mix brown sugar... www.cookbooks.com/Recipe-Details.aspx?id=44874 www.cookbooks.com ["brown sugar", "milk", "vanilla", "nuts", "bu... 1 Jewell Ball'S Chicken ["1 small jar chipped beef, cut up", "4 boned ... ["Place chipped beef on bottom of baking dish....

План урока

1. Настройка
2. Подготовка данных
3. Загрузка файлов
4. Fine-tuning
5. Проверка статуса задачи
6. Inference
7. Заключение