Почему ИИ выдумывает ответы и как это починить — GELATO

открытый урок программы

Почему ИИ выдумывает ответы

Разберём, откуда берутся галлюцинации и почему ИИ вообще решила вам врать и, главное, пофиксим это.

Что вы поймёте после просмотра

1.Поймёте, почему ИИ уверенно выдумывает ответы.
2.Научитесь разрешать ему честно сказать «не знаю».
3.Увидите, зачем нужны правила, скиллы и отдельные агенты.

Дополнительные материалы и ссылки

Галлюцинации LLM

Почему модели выдают галлюцинации

Разбор причин генерации неверных или вымышленных фактов.

Как разрешить модели говорить «не знаю»

Настройка поведения модели, чтобы она признавала нехватку данных вместо придумывания ответа.

Почему настройка проекта в Claude Code снижает галлюцинации

Правила — задают рамки и требования к ответам.
Агенты — распределяют задачи между специализированными компонентами.
Скиллы — предоставляют готовые шаблоны для повторяющихся действий.

Ключевой вывод: правильно сконфигурированный проект с правилами, агентами и скиллами в Claude Code заметно уменьшает количество галлюцинаций.

Нет галлюцинаций - не значит, что все идеально.

Даже хорошо настроенную модель нужно проверять. Полный workflow включает агентов-ревьюеров, типизацию, линтеры и тесты — чтобы качество подтверждалось с нескольких сторон.

Разобраться, как сделать систему проверки Есть вопрос? Написать Эмилю