Что такое Generative AI?
Возможности и ограничения ИИ · 12 мин
В этом видео рассматривается, как создаются и обучаются большие языковые модели, такие как Claude, и что это означает для их надежных возможностей и ограничений при их применении в вашем бизнесе.
Основные выводы
- Generative AI создает новый контент, а не просто анализирует существующие данные.
- Три ключевых достижения сделали современные LLM возможными: архитектура трансформеров, огромные объемы обучающих данных и масштабные вычислительные мощности.
- Обучение проходит в два этапа: pre-training (изучение паттернов на миллиардах примеров) и fine-tuning (обучение полезному следованию инструкциям).
- Текущие сильные стороны включают универсальность в различных задачах, естественность диалога и подключение к внешним инструментам.
- Текущие ограничения включают ограничения по дате знаний, галлюцинации, размер контекстного окна и сложное многошаговое рассуждение.
- Лучшие применения сочетают сильные стороны человека и ИИ — ваше суждение, креативность и надзор в сочетании со скоростью и масштабом ИИ.
Упражнения
Проверка границ возможностей
Это упражнение даст вам непосредственное представление о том, что Generative AI делает хорошо, а в чем он не справляется. Вы исследуете несколько конкретных возможностей и ограничений, упомянутых в видео, в условиях низкого риска, используя контент из вашей собственной предметной области — таким образом, у вас будет конкретная внутренняя проверка, основанная на ваших собственных наблюдениях, при принятии решения, чему доверять ИИ.
Часть I: Саморефлексия (самостоятельно)
Выберите область, которую вы хорошо знаете, где вы сразу заметите ошибку, если поставщик, подрядчик или клиент допустит ее. Запишите:
- Тема (например, расчеты вашей рентабельности, местные правила зонирования или требования к отраслевому лицензированию)
- Два или три факта по этой теме, которые, как вы ожидаете, любой достойный источник должен изложить правильно
- Одно распространенное заблуждение, которое люди имеют по этому поводу
- Одна вещь, которую действительно сложно хорошо объяснить
Это ваша испытательная площадка. Вы увидите, как ИИ справляется с тем, что вы можете фактически проверить.
Часть II: Сотрудничество (с ИИ)
Начните диалог с Claude (или любым другим ИИ-ассистентом, который вы предпочитаете) и проведите три коротких чата. Запишите, что вы заметите после каждого.
- Тест на универсальность. Попросите ИИ объяснить вашу тему тремя разными способами в одном ответе: один раз для клиента, который ничего не знает о вашей услуге, один раз для потенциального делового партнера и один раз для нового сотрудника, которого вы вводите в курс дела. Были ли изменения в аудитории действительно эффективными, или ИИ просто изменил словарный запас? Какая версия была самой сильной?
- Тест на галлюцинации. Попросите ИИ порекомендовать два или три конкретных ресурса, связанных с вашей темой — торговую ассоциацию, отраслевое издание, регулирующий орган или известного поставщика. Затем выборочно проверьте хотя бы один. Существует ли организация? Правильный ли веб-сайт? Точна ли контактная информация? (Здесь вы увидите, будет ли ИИ уверенно придумывать источник, который звучит правдоподобно, но не является реальным.)
- Проверка ограничения знаний + рассуждений. Спросите ИИ что-то актуальное или локальное: недавнее регуляторное изменение в вашей отрасли, текущие ценовые тенденции для ключевого материала или местное требование к лицензированию. Сообщает ли оно, что его информация может быть устаревшей? Делает ли оно оговорки, предполагает или представляет устаревшую информацию как актуальную — то, что могло бы стоить вам денег, если бы вы действовали на ее основе? Затем попросите его разобраться с распространенным заблуждением, которое вы записали в Части I. Устранило ли оно фактическую путаницу или просто повторило правильный факт?
Часть III: Размышление
Какая возможность из видео наиболее четко проявилась в том, что вы увидели? Какое ограничение проявилось — и заметили бы вы его, если бы это не была тема, которую вы хорошо знаете? Исходя из этого, какую задачу вы бы без проблем поручили ИИ прямо сейчас, а за какой вы бы хотели внимательнее следить?
Дополнительная цель: Проверьте ту же тему с помощью другого инструмента ИИ (другой модели или платформы). Были ли ошибки и сильные стороны одинаковыми?
Размышления по уроку
- Как знание того, как обучаются эти системы, меняет ваш подход к работе с ними?
- Какие этические соображения приходят на ум, учитывая, как работает Generative AI и в чем он не справляется?
Что дальше
Далее вас ждет практическое занятие, исследующее, как языковые модели фактически генерируют текст, чтобы оживить то, что вы только что узнали.