Добавляем в промпт контекст

О чём урок

Хотя LLM обучаются на обширном объеме различных документов и данных, LLM не знает всего. Новая информация или информация, которая не является легкодоступной, не может быть известна LLM, если только она не была каким-либо образом специально добавлена в ее корпус знаний. По этой причине иногда необходимо предоставить LLM информацию и контекст, необходимые для ответа на наши запросы, путем предоставления дополнительного контекста. Чтобы запустить следующую cell, ваш API key должен быть сохранен в Colab Secret с именем GEMINI_API_KEY. Если у вас еще нет API key или вы не знаете, как создать Colab Secret, см. Authentication для примера. Кроме того, выберите модель, которую вы хотите использовать, из доступных ниже вариантов: Предположим, вы предоставляете некоторую статистику с недавних Олимпийских игр, и эти данные не использовались для обучения LLM. Вставьте ее в prompt и передайте prompt модели. Хотя некоторая информация может быть легко найдена в интернете без использования LLM, рассмотрите данные, которые не находятся в интернете, такие как частная документация, quickbooks и форумы. Используйте этот код в качестве шаблона, чтобы помочь вам ввести эту информацию в модель Gemini. Обязательно изучите другие примеры prompting в репозитории. Попробуйте написать prompts для классификации ваших собственных данных или попробуйте другие техники prompting, такие как few-shot prompting.

План урока

1. Настройка вашего API key
2. Пример
3. Дальнейшие шаги