Когнитивные искажения: две системы мышления
Быстрые ответы мозга: подтверждение, доступность и то, чего в учебниках не пишут
Когнитивным искажением называют систематическую, то есть повторяющуюся в одну и ту же сторону, ошибку суждения: зная условие, можно заранее сказать, куда сдвинется ответ. Склонность к подтверждению заставляет искать данные в пользу имеющегося убеждения, а эвристика доступности подменяет частоту события лёгкостью, с которой вспоминается пример. Уверенность, что всё это действует на других сильнее, чем на тебя, находят примерно у 85 % людей.
Модуль III. Когнитивные искажения · навыки В1, В2 · 24 мин · обновлено 12.09.2026
После урока вы сможете
- Различать быстрый автоматический ответ и медленную проверку. И знать, где эта метафора кончается.
- Видеть склонность к подтверждению как стратегию положительной проверки и понимать, когда она подводит.
- Оценивать частоту не по лёгкости припоминания примера.
- Знать, что списком искажений от искажений не защищаются, и чем защищаются.
Реши задачку. Только честно: сначала скажи ответ, который приходит в голову, а потом проверяй.
Блокнот и ручка вместе стоят 1100 тенге. Блокнот дороже ручки на 1000 тенге. Сколько стоит ручка?
В голове мгновенно всплывает «100». Проверим: если ручка стоит 100, то блокнот выходит 1100, а вместе 1200. Не сходится. Правильный ответ 50. Ручка 50, блокнот 1050, вместе 1100, разница ровно 1000.
Интересно не то, что ответ «100» неверный. Интересно, откуда он взялся: ты его не вычислял. Он просто появился готовым, уверенным, услужливым. Кто-то внутри тебя посчитал за тебя, мгновенно и бесплатно. И ошибся.
Быстрая и медленная
Этого внутреннего помощника психологи называют Системой 1 и описывают как быстрое, автоматическое, не требующее усилий мышление. Оно узнаёт лица, достраивает фразы, отдёргивает руку от горячего и выдаёт «100» раньше, чем ты успел решить, что вообще будешь считать. Рядом живёт Система 2, медленное и требующее усилий рассуждение: она проверяет, вычисляет, сравнивает. Включается она неохотно. Чтобы решить задачу про ручку, сперва надо заметить, что задача вообще есть.
Здесь пора выбросить популярное объяснение этой лени, и курс обязан выбросить его первым. Обычно пишут так: мозг съедает пятую часть энергии тела, поэтому он экономит и лишний раз не думает. Первая половина верна. На мозг приходится около двух процентов массы тела и около двадцати процентов потребляемого кислорода. Вторая половина неверна. Райкл и Гуснард, которые этот расход и мерили, пишут прямо: обмен в мозге поразительно постоянен при любой умственной и двигательной активности. Попытки поймать прирост при напряжённом мышлении не нашли ничего, а локальные изменения кровотока дают пять процентов и меньше.
Иначе говоря, задача про ручку и взгляд в стену стоят мозгу примерно одинаково. «Думать дорого» это красивая причина, но выдуманная. Что Система 2 включается неохотно, видно на любой такой задаче. Вопрос «почему именно так» остаётся открытым, и правильный ход здесь не подставить объяснение поудобнее, а сказать, что объяснения у нас нет. Это, между прочим, первый живой пример навыка всего курса: верное число (пятая часть энергии) и неверный вывод из него живут в одной фразе и подпирают друг друга.
Вторая оговорка ещё важнее первой. «Две системы» остаются метафорой, а не картой мозга: двух отдельных устройств там не нашли. Мельникофф и Барг в 2018 году разобрали саму дихотомию «двух типов» психологических процессов и назвали её удобным и соблазнительным мифом, ведь прямой эмпирической проверки у неё нет. Эванс и Стэнович, авторы рамки, отвечают, что критика преувеличена, и переформулируют: не две системы, а два типа обработки. Спор не закрыт. Пользоваться метафорой можно, она удобна и хорошо ложится на опыт. Выдавать её за устройство мозга нельзя.
Два модуля назад мы разбирали, как ломают аргументы снаружи, приёмами и подменами. Этот модуль говорит о поломках изнутри: о систематических сбоях быстрого мышления, которые называются когнитивными искажениями.
Три вещи важно понять сразу. Первое: искажение не глупость. Быстрая система вывозит почти весь твой день. Без неё ты бы час выбирал носки. Искажения и есть цена её скорости: она срезает углы, и на определённых поворотах срезает всегда в одну и ту же сторону. Второе: они есть у всех. У профессоров, у скептиков, у тебя после этого курса. Третье: читать список бесполезно, а тренироваться полезно. К третьему вернёмся в конце урока, там всё держится на числах.
Склонность к подтверждению: мозг-адвокат
Начнём с эксперимента, которому больше шестидесяти лет. Попробуй его на себе.
Я загадал правило, которому подчиняются тройки чисел. Тройка «2-4-6» правилу соответствует. Какие тройки ты бы проверил, чтобы угадать правило? Запиши две-три, и только потом читай ответ.Показать ответ
большинство проверяет тройки вида «8-10-12», «20-22-24», то есть подставляет примеры, которые ПОДТВЕРЖДАЮТ догадку «чётные через два». Опровергающую тройку, «1-2-3» или «10-9-8», пробуют заметно реже. А правило у Уэйсона было простым: «любые три числа по возрастанию». С первого объявления его находят около двадцати процентов участников. Не «почти никто», но и далеко не большинство: четверо из пяти уходят с уверенным неверным ответом.
Склонностью к подтверждению называют привычку искать, замечать и запоминать то, что согласуется с уже имеющимся убеждением, и не искать того, что ему противоречит. Мозг работает не как судья, взвешивающий обе стороны, а как адвокат, собирающий досье в пользу клиента. Клиент всегда ты.
Где это живёт: «гороскоп сбывается» (попадания запомнились, промахи испарились), «я по глазам вижу кандидата» (успехи принятых видны, а судьбы отвергнутых скрыты), лента, собранная из источников, которые с тобой согласны, и убеждение, которое от этой ленты крепнет. Заметь общий узор: убеждение само устраивает себе среду, в которой его невозможно опровергнуть.
А теперь продолжение опыта, без которого урок был бы неполным. Доля решивших задачу «2-4-6» резко меняется от инструкции. Стоит попросить участников держать в голове два правила сразу и решить, какое из них загадано, и решают уже больше шестидесяти процентов. Значит, дело не в неспособности себя опровергать. Кляйман и Ха в 1987 году объяснили, в чём оно. Люди пользуются стратегией положительной проверки: «проверю случай, где по моей гипотезе ответ должен быть „да"». В большинстве настоящих задач это хорошая стратегия, она быстро находит границы правила.
Подводит она в одной редкой конфигурации: когда твоя гипотеза целиком лежит внутри истинного правила. Задача Уэйсона сконструирована именно такой. «Чётные через два» остаются частным случаем «любых трёх по возрастанию», поэтому подтверждения будут приходить бесконечно и ни одно из них ничего не проверит. Отсюда точная формулировка навыка. Не «всегда ищи опровержение», ведь это лозунг, и в половине задач он лишний. А «замечай, когда твоя гипотеза может оказаться частным случаем чего-то большего»: именно там подтверждения перестают быть информацией.
Линейка от адвоката: вопрос «что могло бы меня переубедить?» и честный поиск именно этого. Не «найду ли я подтверждения» (найдёшь всегда), а «переживёт ли моё убеждение встречу с самыми неудобными данными». Так работает инженер, который гоняет свой код через ломающие тесты. Заметь, что вопрос заодно проверяет и саму гипотезу на пустоту: если переубедить не может ничто, проверять нечего.
Доступность: что легко вспомнить, то и кажется частым
Второй сбой касается оценки вероятностей. Вопрос из эксперимента Тверски и Канемана 1973 года: чего в английском тексте больше, слов на букву K или слов, где K стоит третьей? Из 152 участников 105 ответили «на K», а медианная оценка отношения составила два к одному в пользу первой позиции. На самом деле все пять букв, которые брали в опыте, чаще стоят третьими. Память выдала не частоту, а лёгкость поиска, и мы приняли одно за другое.
И тут курс обязан остановиться, потому что обычно этот опыт пересказывают как чистую демонстрацию доступности. Он ею не является. Пять согласных (K, L, N, R, V) авторы отобрали как раз за то, что те чаще стоят третьими, а в английском из двадцати согласных двенадцать чаще стоят первыми. Участников спросили про исключения, не предупредив, что это исключения. Хуже того: их медианная оценка, около двух третей в пользу первой позиции, почти совпадает с реальной статистикой алфавита, где первыми чаще бывают около шестидесяти процентов согласных. На это указали Седльмайер, Хертвиг и Гигеренцер. То есть участники ответили примерно так, как ответил бы человек, который частот не знает и рассуждает разумно.
Значит ли это, что доступности нет? Нет, не значит. Значит только, что буква K её не доказывает, и подпирать эффект этим опытом больше нельзя. Аккуратная демонстрация выглядит иначе.
Шварц и коллеги в 1991 году просили сорок студенток вспомнить случаи собственной напористости. Одна группа вспоминала шесть случаев, другая двенадцать. Потом обе оценивали, насколько они напористы вообще. Логика подсказывает: кто вспомнил больше примеров, тот и оценит себя выше. Вышло наоборот. Вспоминавшие двенадцать поставили себе 5,2 балла, а у вспоминавших шесть вышло 6,3. Двенадцать случаев вспоминать тяжело, и эта тяжесть прочиталась как «значит, я не очень-то и напориста». Судят не по числу примеров, а по лёгкости, с которой они пришли. Приём воспроизводится: метаанализ Вайнгартена и Хатчинсона (142 статьи, 263 исследования, 582 размера эффекта) даёт эффект среднего размера, и от трети до половины его проходит именно через субъективную лёгкость.
Эвристика доступности: чем легче примеры приходят в голову, тем более вероятным кажется событие. А лёгкость зависит не от частоты, а от яркости, свежести и личной близости. Авиакатастрофа в новостях, и лететь страшно, хотя дорога в аэропорт опаснее полёта. Два развода среди знакомых, и «все сейчас разводятся». Лента историй успеха, и «стартапы это лёгкие деньги»: в ленту попадает яркое и редкое, тихие закрытия не попадают. Руководитель пишет годовую оценку по последним трём неделям, потому что свежее доступнее.
Линейка от доступности: спроси базовую частоту. Не «легко ли мне вспомнить примеры», а «сколько таких случаев на сотню в реальности», и поищи цифру, а не воспоминание. Вторая линейка опирается на внешнюю память: записи, сделанные ДО момента решения, бьют любую яркость. Заметки о работе сотрудника за год, журнал предсказаний гороскопа, список сделанных прогнозов.
После сериала о маньяках человек боится вечером выходить в своём спокойном районе. Какое искажение работает и что изменилось на самом деле, риск или что-то другое?Показать ответ
эвристика доступности. Риск района не изменился ни на волос, а изменилась лёгкость, с которой в голову приходят яркие примеры: сериал загрузил в память десятки. Ощущаемая вероятность выросла, а реальная осталась прежней. Линейка: посмотреть на частоту происшествий в районе, а не на содержимое свежей памяти.
Список искажений не защищает. Что тогда защищает
Теперь самое неприятное для книжки с картинками про искажения. Знание списка от искажений не спасает, и это измерено.
Пронин, Лин и Росс в 2002 году описывали участникам конкретное искажение и то, как именно оно могло подействовать на них самих. Участники соглашались с описанием, но продолжали настаивать, что уж их-то собственная самооценка объективна. У явления есть имя: слепое пятно искажений. Скопеллити и коллеги в 2015 году померили его на 661 участнике: пятно нашлось у 85,2 % и с общей компетентностью в принятии решений не связано вовсе. То есть умный и толковый человек защищён от него ровно так же, как любой другой. Уилсон и Брекке объясняют механизм: сам процесс недоступен интроспекции, а собственная теория о своих искажениях искажена не меньше остального.
И вот здесь ученика подстерегает перегиб ровно противоположный, который вреднее исходной наивности. Звучит он так: раз знание не защищает, искажения неисправимы, и делать нечего. Это тоже неверно, и тоже измерено.
Морведж и коллеги в 2015 году проверили однократную тренировку с обратной связью. Искажения снизились более чем на 31 % сразу и более чем на 23 % через два-три месяца, причём игра с персональной обратной связью сработала вдвое сильнее пассивного видео с тем же содержанием. Селье, Скопеллити и Морведж в 2019 году повторили это на 290 слушателях профессиональных программ, замеряя результат скрыто и в поле: минус 29 % ошибок.
Граница проходит не между знанием и незнанием, а между чтением списка и практикой с обратной связью. Прочитать про якорение почти бесполезно. Двадцать раз попасться на якорь в тренажёре, каждый раз видя свою ошибку числом, уже работает. Поэтому дальше в курсе будут не столько списки, сколько задания, где ты ошибаешься первым и узнаёшь об этом сразу.
Зачем это тебе
Два сегодняшних искажения и есть родители большинства плохих решений: мы верим в то, что удобно, и боимся того, что ярко. Практикум урока учит ловить эти сбои не в задачках, а в собственной голове.
Предупреждаю о побочном эффекте. Первое пойманное у себя искажение вызывает странную смесь досады и восторга. Второй побочный эффект хуже: появляется желание ставить диагнозы окружающим. Держи в голове число 85,2. Такова доля людей, уверенных, что искажения есть у других, а не у них. Ты в этой доле почти наверняка.
Конспект
Система 1 быстрая и автоматическая, Система 2 медленная и неохотная. «Две системы» остаются рабочей метафорой, а не устройством мозга, и спор о ней открыт. Расход энергии мозга при умственной нагрузке не растёт, поэтому объяснение «мозгу дорого думать» неверно. Подтверждение (В1): мозг-адвокат ищет только «за», в задаче 2-4-6 правило сразу находят около 20 %, а при смене инструкции больше 60 %, механизмом работает положительная проверка, опасная там, где гипотеза вложена в истину, а линейка сводится к вопросу «что могло бы меня переубедить?». Доступность (В2): судят по лёгкости припоминания, а не по числу примеров (опыт с шестью и двенадцатью случаями напористости), буква K доказательством не служит, ведь пять согласных были отобранными исключениями, а линейка опирается на базовую частоту и записи вместо памяти. Список искажений не защищает, слепое пятно есть у 85,2 %, защищает практика с обратной связью: минус 31 % сразу и минус 23 % через два-три месяца.
Ключевые работы
| Wason | 1960 | Задача «2-4-6»: испытуемые проверяют тройки, подтверждающие догадку, и объявляют неверные правила. В стандартной версии правило сразу находят около 20 %. |
| Tversky & Kahneman | 1973 | Буква в первой против третьей позиции: из 152 участников 105 сочли первую позицию более частой для большинства из пяти согласных (K, L, N, R, V), а медианная оценка отношения вышла 2:1, при том что все пять чаще встречаются третьими. |
| Klayman & Ha | 1987 | «Подтверждающее искажение» лучше описывается как стратегия положительной проверки, эффективная в большинстве реальных задач и подводящая лишь там, где гипотеза целиком вложена в истинное правило. |
| Schwarz и др. | 1991 | 40 студенток: вспомнившие 12 примеров своей напористости оценивали себя менее напористыми (5,2), чем вспомнившие 6 (6,3). Судят по лёгкости припоминания, а не по числу примеров. |
| Sedlmeier, Hertwig & Gigerenzer | 1998 | Оценки позиционной частоты букв в целом следуют реальным пропорциям. Эффект 1973 года объясняется тем, что для опыта отобрали пять нетипичных согласных. |
| Pronin, Lin & Ross | 2002 | Слепое пятно искажений: люди считают себя менее подверженными искажениям, чем другие, и настаивают на объективности своей самооценки даже после объяснения, как именно искажение могло на них подействовать. |
| Raichle & Gusnard | 2002 | На мозг приходится около 2 % массы тела и около 20 % потребляемого кислорода. При этом расход остаётся почти постоянным при любой умственной нагрузке, а локальные изменения кровотока при когнитивных задачах дают 5 % и меньше. |
| Morewedge и др. | 2015 | Однократная тренировка с обратной связью снижала искажения более чем на 31 % сразу и более чем на 23 % через два-три месяца. Пассивное видео работало вдвое слабее игры с практикой. |
| Scopelliti и др. | 2015 | 661 участник: слепое пятно искажений есть у 85,2 % и не связано с общей компетентностью в принятии решений (все корреляции с шестью её показателями незначимы). |
| Melnikoff & Bargh | 2018 | Разбор дихотомии «двух типов» психологических процессов: у неё нет прямой эмпирической проверки, и авторы называют её удобным мифом. Сторонники (Evans & Stanovich, 2013) защищают более слабую версию, где говорится о двух типах обработки, а не о двух системах. |
| Weingarten & Hutchinson | 2018 | Метаанализ 142 статей, 263 исследований и 582 размеров эффекта: приём «вспомните мало против много» даёт эффект среднего размера, и от трети до половины его опосредовано субъективной лёгкостью. |
Разбор
Мельникофф и Барг (2018) разбирают типологию «двух типов» и называют её удобным и соблазнительным мифом: прямой эмпирической проверки у неё нет. Эванс и Стэнович (2013) отвечают на пять линий критики, признают, что часть доводов бьёт по отдельным версиям теории, и переформулируют её как два типа обработки, а не две системы. Метафора работает, но описанием мозга она не является.
Доля верна: около 2 % массы тела и около 20 % потребляемого кислорода. Вывод из неё неверен. Райкл и Гуснард (2002), у которых эта доля и взята, пишут, что обмен в мозге поразительно постоянен при любой умственной нагрузке, а попытки поймать прирост при напряжённом мышлении ничего не показали. Локальные изменения дают 5 % и меньше. Мозг тратит свою пятую часть и когда вы решаете задачу, и когда смотрите в стену.
Пронин, Лин и Росс (2002): участники, которым описали конкретное искажение и его вероятное действие на них самих, продолжали считать свою самооценку объективной. Скопеллити и др. (2015): слепое пятно есть у 85,2 % и не связано с компетентностью в принятии решений. Обратный перегиб, «значит, искажения неисправимы», тоже неверен: у Морведжа и др. (2015) однократная тренировка с обратной связью дала минус 31 % сразу и минус 23 % через два-три месяца. Работает не список, а практика с обратной связью.
Задача «2-4-6» Уэйсона: испытуемые перебирают тройки, подтверждающие догадку, и объявляют неверные правила, а в стандартной версии правило сразу находят около 20 %. Клейман и Ха (1987) разобрали механизм и одновременно сузили вывод: это стратегия положительной проверки, а не поломка мышления. В большинстве реальных задач она эффективна и подводит там, где загаданная гипотеза целиком вложена в истинное правило, ровно как в «2-4-6». Уцелело описание поведения. Не уцелело обещание, которое к нему обычно прикладывают: знание списка искажений от них не защищает, и это стоит рядом отдельной позицией реестра.
Термины
- когнитивное искажениеcognitive bias
- Систематическая ошибка суждения, то есть повторяющаяся в одну и ту же сторону. От случайной ошибки отличается предсказуемостью: зная условие, можно заранее сказать, куда сдвинется ответ.
- Система 1 и Система 2Type 1 and Type 2 processing
- Метафора двух режимов мышления: быстрого автоматического и медленного контролируемого. Удобна для описания опыта, но двух отдельных систем в мозге не найдено, и специалисты предпочитают говорить о двух типах обработки.
- склонность к подтверждениюconfirmation bias
- Привычка искать, замечать и запоминать данные в пользу уже имеющегося убеждения и не искать тех, что ему противоречат.
- стратегия положительной проверкиpositive test strategy
- Проверять гипотезу случаями, где она предсказывает «да». В большинстве задач работает хорошо и подводит там, где гипотеза целиком лежит внутри истинного правила: подтверждения идут бесконечно и ничего не проверяют.
- эвристика доступностиavailability heuristic
- Оценка частоты события по тому, насколько легко вспоминается пример. Лёгкость зависит от яркости, свежести и близости, а не от частоты.
- лёгкость припоминанияease of retrieval
- Субъективное ощущение «вспомнилось легко или туго». Именно оно, а не количество вспомненного, чаще определяет итоговую оценку, поэтому просьба вспомнить много примеров может убедить человека в обратном.
- слепое пятно искаженийbias blind spot
- Уверенность, что искажения действуют на других сильнее, чем на тебя. Обнаруживается примерно у 85 % людей и не зависит от общей компетентности в принятии решений.
- базовая частотаbase rate
- Доля события в подходящей совокупности: сколько таких случаев на сотню или на тысячу. Противоядием доступности служит цифра вместо воспоминания.
Практикум · Что меня переубедило бы
Единственный надёжный приём против склонности к подтверждению состоит в том, чтобы заранее назвать, что считалось бы опровержением.
- Выберите убеждение, в котором уверены не меньше чем на 80 %. Лучше содержательное, а не про вкусы.
- Напишите одним предложением: какое конкретное наблюдение заставило бы меня в этом усомниться?
- Проверьте формулировку на честность: если ответ «ничто», это не убеждение о мире, а часть идентичности, и это стоит знать про себя.
- Потратьте 15 минут на поиск сильнейшего возражения. Не на разгром, а на поиск.
- Запишите, сдвинулась ли уверенность и на сколько. Даже сдвиг с 85 до 80 уже результат.
Вопросы для самопроверки
Человек убеждён, что его район стал криминальным, и подписан только на паблик местных происшествий. Как это связано?
- Паблик врёт: в таких сообществах публикуют выдуманные происшествия
- Никак: паблик просто информирует о происходящем рядом, а выводы человек делает сам и по другим причинам
- Это якорение: первое прочитанное число задало ожидания
- Он собирает только подтверждающие примеры, и лента искажает картину в сторону его убеждения
Человек, у которого за год развелись двое знакомых, говорит: «Да все сейчас разводятся!» Что не так с выводом?
- Два ярких близких случая заслонили статистику: доступное в памяти ≠ типичное
- Это ошибка выжившего: о разводах рассказывают всем, а о крепких браках молчат
- Разводы не та тема, где вообще уместны обобщения: у каждой семьи своя история
- Ничего: два случая за год в одном круге общения дают тренд, который трудно не заметить
Ты хочешь честно проверить убеждение «удалёнщики работают хуже». Какой шаг самый правильный?
- Вспомнить все случаи, когда удалёнщики подводили, и записать их
- Довериться интуиции: она сжимает весь прошлый опыт в ощущение
- Спросить тех, кто с этим согласен, и собрать их доводы
- Поискать данные, которые могли бы опровергнуть убеждение
Начинающий предприниматель: «Стартапы это реальные деньги, лента забита историями успеха». Какую поправку он должен сделать?
- Оценивать шансы по чужим историям нельзя в принципе: чужой опыт о твоих шансах не говорит ничего
- Ленту нужно листать дольше: чем глубже уходишь в ленту, тем чаще там попадаются и провалы тоже
- Истории успеха попадают в ленту потому, что редки и ярки, а типичным исходом оказывается тихое закрытие
- Лента отражает реальные доли успехов и провалов
Ты убеждён: «понедельник это самый тяжёлый день недели». Какой шаг будет честной проверкой, а не подтверждением?
- Каждый понедельник подробно записывать всё, что пошло не так, и база накопится
- Спросить коллег, согласны ли они, что понедельники тяжелее
- Месяц оценивать ВСЕ дни недели по одной шкале, заранее решив, что считается «тяжёлым днём»
- Вспомнить самые тяжёлые дни за год и посмотреть, сколько из них понедельники
Ответы и разбор открываются в самопроверке урока: она считает результат и отмечает урок пройденным. Пройти самопроверку.
Что читать
- Даниэль Канеман, «Думай медленно… решай быстро», части I-II: Книга, из которой «две системы» разошлись по всему миру. Читать её стоит вместе с оговоркой этого урока: у самого Канемана это рабочая метафора, а часть деталей в книге ярче и круглее, чем в статьях, на которые она опирается.
- Klayman & Ha, «Confirmation, disconfirmation, and information in hypothesis testing», Psychological Review, 1987: Текст, который превращает школьный пример «2-4-6» в механизм: когда положительная проверка работает и почему именно эта задача её ломает. Читается тяжело, но именно отсюда берётся точная формулировка навыка.
- Курс психологии школы «Фонтум», урок 14 «Суждения и решения: эвристики и теория перспектив»: Добавка, а не условие: там те же эвристики разобраны как предмет психологии, с моделями и спорами о механизме. Здесь они нужны только как повод завести процедуру проверки.