О чём урок
Возможности генеративного ИИ основаны на использовании трансформеров. Именно трансформеры совершили революцию в обработке естественного языка в 2018 году. Если смотреть в общих чертах, модель-трансформер состоит из кодировщика (encoder) и декодировщика (decoder). Кодировщик кодирует входную последовательность и передаёт её декодировщику, который учится декодировать эти представления для решения нужной задачи. Но иногда с трансформерами возникают проблемы.
Галлюцинации представляют собой слова или фразы, сгенерированные моделью, которые зачастую бессмысленны или грамматически неверны. Видите? Не очень. Галлюцинации могут возникать по разным причинам: модель обучена на недостаточном объёме данных, обучена на зашумлённых или «грязных» данных, получила недостаточно контекста или недостаточно ограничений.
Галлюцинации создают проблемы для трансформеров, потому что из-за них выходной текст становится трудно понять. Кроме того, модель с большей вероятностью выдаст неверную или вводящую в заблуждение информацию. Проще говоря, галлюцинации нежелательны.
Давайте немного сменим тему и поговорим о промптах. Промпт представляет собой короткий фрагмент текста, который подаётся на вход большой языковой модели (LLM). С его помощью можно по-разному управлять результатом работы модели. Промпт-дизайн представляет собой процесс создания такого промпта, который позволит получить от LLM нужный результат.
Как я уже говорил, генеративный ИИ во многом зависит от данных, на которых его обучали. Он анализирует закономерности и структуры во входных данных и таким образом учится. Но при наличии доступа к промпту в браузере вы, пользователь, можете создавать собственный контент.
Перевод официального курса Google «Введение в генеративный ИИ». Оригинал на английском.
План урока
- Текст видео
- Галлюцинации
- Промпты
Урок входит в полный доступ. Полный текст и видео открываются после оплаты. Первые уроки каждого курса бесплатны.