Итоговый тест: Возможности и ограничения AI

О чём урок

Проверьте свои знания по материалам раздела. 1. Какой из следующих этапов обучения генеративного ИИ отвечает за превращение "сырого" завершителя документов в полезного помощника, способного воспринимать запросы, отвечать полезно и отказываться от вредных просьб? Предварительное обучение Донастройка (Fine-tuning) Обучение с подкреплением Сбор данных Показать ответ Ответ: B — Донастройка (Fine-tuning) — это второй этап обучения, на котором модель обучается на отобранных примерах полезного поведения и сигналах вознаграждения, сформированных человеческими предпочтениями, что превращает завершителя документов в помощника, с которым вы взаимодействуете. 2. Какое из перечисленных поведенческих "отпечатков" ИИ описывает склонность модели выдавать более длинные ответы, даже когда краткость была бы предпочтительнее для пользователя? Подхалимство Чрезмерная осторожность Многословие Неточная калибровка уверенности Показать ответ Ответ: C — Многословие по умолчанию (verbosity) проявляется, потому что тщательность часто оценивается выше во время обучения, поэтому модель по умолчанию выдает более длинные ответы, даже когда краткость была бы предпочтительнее для пользователя. 3. Какой основной механизм лежит в основе работы генеративного ИИ, объясняя как его удивительную беглость и связность, так и потенциальные "галлюцинации" или вымыслы? Семантический анализ Предсказание следующего токена (Next Token Prediction) Запрос к базе знаний Логический вывод Показать ответ Ответ: B — Предсказание следующего токена (Next Token Prediction) — это фундаментальный механизм, при котором модель, получив весь написанный до сих пор текст, предсказывает, что будет дальше, фрагмент за фрагментом. Это объясняет беглость, но также и вымыслы, поскольку модель генерирует наиболее вероятную последовательность, а не обязательно фактическую истину. 4. В каких типах информации LLM особенно склонны к "вымыслам" или "галлюцинациям", даже сохраняя уверенный тон?