Галлюцинация — что это
Коротко
Ситуация, когда модель уверенно выдаёт несуществующее: функцию, параметр, библиотеку или факт.
В работе с кодом это выглядит характерно: модель вызывает метод, которого нет в библиотеке, или ссылается на параметр, придуманный по аналогии с другой библиотекой. Код при этом выглядит абсолютно правдоподобно.
Защита простая и скучная: запускать то, что написал агент, и не принимать на веру ни одного вызова, которого вы не знаете. Тесты на ключевые сценарии ловят это лучше любого вычитывания.