Чему вы научитесь

Расчетное время: 25 минут

К концу этого урока вы сможете:

• Понимать, что большинство сбоев ИИ связаны с взаимодействием двух или более свойств

• Диагностировать распространенные паттерны сбоев (галлюцинации цитат, уход разговора, уверенно неверные вычисления, податливость к ошибочным посылкам), определяя, какие свойства задействованы

• Применять целенаправленное исправление на основе того, какое свойство является ограничивающим фактором

Диагностика сбоев ИИ

(3 минуты)

Четыре свойства не работают изолированно. Большинство реальных сбоев — это пересечение двух из них. Как только вы можете назвать, какие два свойства взаимодействуют, вы знаете, к какому исправлению прибегнуть.

Два свойства встречаются: диагностика того, что пошло не так

)

Когда свойства сталкиваются

Большинство сбоев ИИ в реальном мире происходят, когда два свойства взаимодействуют одновременно.

• Предсказание следующего токена

Генерирует то, что звучит правильно

• Знания

Знает то, на чём обучалось

• Рабочая память

Уделяет внимание тому, что рядом

• Управляемость

Следует самой громкой инструкции

Перетащите два свойства друг к другу, чтобы увидеть, что происходит при их столкновении.

Что происходит при столкновении свойств

Галлюцинации цитат

Модель генерирует текст, похожий на цитаты — правдоподобные названия, журналы, которые звучат реально, — но под этим лежит пробел в знаниях. Она не может отличить то, что знает, от того, что выдумывает.

Исправление: Независимо проверяйте детали или используйте привязку к источникам, чтобы модель извлекала реальные документы.

Уход разговора в длительных диалогах

Ваши ранние ограничения исчезают по мере развития разговора. Управляемость следует тем инструкциям, которые наиболее заметны сейчас — поэтому более поздние сообщения тихо переписывают более ранние.

Исправление: Вновь предоставьте критически важный контекст или начните заново, заранее указав основные моменты.

Уверенно неверные рассуждения

Предсказание следующего токена генерирует плавные, уверенные цепочки логики. Управляемость добросовестно следует вашему сложному запросу шаг за шагом. Но небольшие ошибки накапливаются — и уверенный тон никогда не колеблется.

Исправление: Используйте видимые рассуждения, чтобы зафиксировать уход раньше, или перенесите точные шаги на выполнение кода.

Генерация, отравленная контекстом

Рабочая память выводит тот контекст, который находится рядом. Затем предсказание следующего токена плавно строит на его основе — даже если этот контекст содержит ошибки, устаревшую информацию или вводящие в заблуждение формулировки.

Исправление: Тщательно отбирайте, что находится в контексте. Плохой ввод в окне приводит к уверенному плохому выводу.

Податливость к ошибочным посылкам

Вы указываете что-то неверное в своём запросе. Знания модели могут "знать" лучше, но Управляемость по умолчанию следует вашей формулировке — особенно если вы звучите уверенно.

Исправление: Явно приглашайте возражение: "Скажите, если моё предположение неверно".

Устаревший контекст vs. знания модели

Ваша Рабочая память предоставляет документ, который противоречит тому, что модель узнала во время обучения. Она может смешивать оба источника — выдавая ответы, которые не соответствуют ни вашему источнику, ни её обучению.

Исправление: Явно укажите, какой источник имеет приоритет: "Используйте только приложенный документ" или "Используйте свои знания".

Основные выводы

• Реальные сбои обычно являются результатом взаимодействия двух свойств, а не одного.

• Диагностические пары для распознавания:

• Предсказание следующего токена + Знания (галлюцинации деталей)

• Рабочая память + Управляемость (уход разговора в длительных диалогах)

• Называние взаимодействующих свойств сразу указывает на исправление: проверяйте детали, заново предоставляйте контекст, переносите выполнение на код или приглашайте возражение.

• Этот диагностический подход — это применение метода "Различение". Вы оцениваете лучше, когда знаете, какой именно тип ошибки перед вами.

Упражнения

Упражнение: Диагностика сбоя

Зачем? Большинство сбоев ИИ в реальном мире не связаны с одним неисправным свойством. Они происходят, когда два свойства взаимодействуют одновременно. Называние этих двух полностью меняет подход к исправлению.

Вспомните свой опыт работы с ИИ (включая то, что вы наблюдали во время этого курса). Определите два или три случая, когда вывод ИИ вас действительно разочаровал или удивил. Для каждого из них опишите в одном-двух предложениях: что вы запросили, что получили и что было разочаровывающим или удивительным.

• Пройдитесь по каждому случаю с ИИ. Опишите, что произошло, и задайте вопрос: "Основываясь на четырёх свойствах (Предсказание следующего токена, Знания, Рабочая память, Управляемость), какие из них, скорее всего, были задействованы здесь и почему?"

• Оцените свой диагноз с учётом того, что вы узнали сейчас. Согласны ли вы? Если нет, возразите. (Помните о "отпечатке снисходительности" из Урока 3: ИИ может слишком охотно соглашаться с вашей формулировкой. Если вы считаете, что он не прав, скажите об этом.)

• Для каждого диагноза задайте вопрос: "Учитывая этот диагноз, какое самое целенаправленное исправление?" Если возможно, протестируйте это исправление прямо сейчас на похожей задаче.

Теперь посмотрите на свой список задач из Урока 1 со всеми накопленными аннотациями (теги свойств из Урока 2, оценочные баллы из Урока 4, флаги знаний из Урока 5, потребности в контексте из Урока 6, формулировки целей из Урока 7). Для задач, которые доставили вам больше всего проблем, назовите, какие два свойства столкнулись. Напишите диагноз рядом с каждой из них.

Размышления по уроку

• Помогло ли вам называние пары свойств изменить подход к исправлению? До этого курса вы бы попробовали другое (менее эффективное) исправление?

• Какое сочетание свойств, по вашему мнению, вы будете встречать чаще всего в своей повседневной работе?

Что дальше

В последнем уроке мы обобщим всё, что вы создали, свяжем это с 4D Framework как с целостной системой и укажем, куда двигаться дальше.

Обратная связь

По мере прохождения курса мы будем рады узнать, как вы используете концепции курса в своей работе, а также получить ваши отзывы. Поделитесь своими отзывами [здесь](#).

Благодарности и лицензия

Copyright 2026 Anthropic. Оригинальная работа, основанная на AI Fluency Framework, разработанном профессором Риком Даканом (Ringling College of Art and Design) и профессором Джозефом Феллером (Университетский колледж Корка). Выпущено по лицензии CC BY-NC-SA 4.0.