Языковая модель подбирает следующее слово по вероятности, опираясь на предыдущие. Она не сверяется с источниками — отсюда уверенно изложенные выдумки.
Что нужно знать
- Модель предсказывает следующий фрагмент текста по вероятности, исходя из предыдущих.
- Она не обращается к источникам и не проверяет факты: правдоподобие формы и истинность содержания — разные вещи.
- Выдуманные ссылки, цитаты и имена — типичный и ожидаемый сбой, а не редкая поломка.
- Сильная сторона — работа с ФОРМОЙ: пересказ, структурирование, переписывание, перевод.
- Слабая — факты, числа, свежие события и узкие темы.
- Объём учитываемого контекста ограничен: в длинном диалоге начало перестаёт влиять на ответ.
- Проверка фактов после генерации обязательна.
Где чаще всего ошибаются
- Считают, что модель «знает» факты и помнит источники.
- Принимают приведённые ссылки на веру.
- Спрашивают о свежих событиях и доверяют ответу.
- Ждут, что в длинном диалоге модель помнит всё сказанное.
Проверить себя
По этой же главе есть проверочная работа из 11 заданий на 25 минут. Проверка автоматическая, результат виден сразу — и по работе целиком, и по каждой теме.
Искусственный интеллект · 9 класс · Курс ИИ, 2024 · Системы создания текстов