Недостатки ChatGPT
Галлюцинации, непонимание контекста и другие проблемы
Большие языковые модели обладают набором недостатков, и самый важный из них — когда модель выдумывает факты или принимает на веру вашу информацию. Это явление называется галлюцинациями. В этом занятии поговорим о них и других слабостях ChatGPT.
Один важный недостаток больших языковых моделей был не упомянут в видеоуроке. Это ограничение знаний (knowledge cutoff) — отсутствие у модели информации о событиях после определенной даты. Например, на июнь 2024 г., ChatGPT 3.5 не имеет доступа к информации после января 2022 г.