Мифы об искусственном интеллекте

Что выдержало, где спор открыт, что оказалось мифом. И как обновлять картину, когда поле движется

Мифы об искусственном интеллекте это утверждения, которых область не делала, их приписали ей пересказы, реклама и кино. Самых ходовых четыре: сеть работает как мозг, алгоритм объективен, потому что это математика, машина не ошибается в фактах, модель сдала экзамен и значит заменит специалиста. Каждый устроен удобнее правды: объясняет знакомым, снимает ответственность, экономит проверку, помогает продать.

Реестр пересмотров курса, Dive into Deep Learning (d2l.ai), Stanford CS229 · 22 мин · обновлено 01.10.2026

Первый урок отказался от вопроса «настоящий ли это интеллект» и предложил три других. Как это устроено, что именно измерили и какой у утверждения статус. Двадцать два урока после него были развёрнутыми ответами на эти вопросы. Нет худшего способа закончить курс, чем пересказать их заново.

Вместо пересказа будет карта. Спиной курса служил реестр пересмотров: у каждого небанального утверждения стоял статус. Полок пять: выдержало, сильно ослаблено, спор открыт, отвергнуто, миф. Пройдём по всем пяти, беря с каждой самое ходовое, и посмотрим, что получится.

Два предупреждения перед картой, и оба важные. Реестр перекошен по построению: в него попадает спорное и исправленное, а не то, что спокойно работает. И вторая особенность, которой нет у прочих курсов школы: часть этой карты портится со временем, и отдельный раздел урока посвящён тому, как её чинить.

Что выдержало

Слово «выдержало» стоит понимать точно: его дают после враждебной проверки, а не вместо неё. Ни одно из утверждений ниже не приняли на веру, и у каждого была своя история сомнений. Полка эта самая скучная в реестре, и скука тут признак здоровья, а не сонного согласия.

Механизмы стоят прочнее всего, и речь идёт о том, как устроено обучение и вычисление. Обратное распространение ошибки из урока 5 выдержало полностью: способ разложить вину за ошибку по всем параметрам работает и лежит в основании почти всего остального. Идея известна с 1970 года, а в контекст нейросетей её ввели Румельхарт, Хинтон и Уильямс в 1986-м.

Трансформер из урока 11 стал второй такой опорой. Это архитектура 2017 года с механизмом внимания, то есть с весами важности, а не с психологией. Она вытеснила рекуррентные схемы, потому что вычисления распараллеливаются и обучать можно на несопоставимо больших корпусах. Почти десять лет для этой области считаются долгим сроком, и статус «выдержало» здесь заработан.

Законы масштабирования из урока 8 выдержали как эмпирическая закономерность. Каплан и соавторы показали в 2020 году, что качество предсказуемо растёт по степенному закону при росте параметров, данных и вычислений. Оговорка тут часть утверждения, а не мелкий шрифт: закономерность проверена в исследованном диапазоне, и экстраполяция за его пределы не гарантирована.

Туда же лёг вывод Chinchilla 2022 года: прежние модели были недообучены, слишком велики при слишком малых данных. Правило получилось простое, около двадцати токенов обучающих данных на один параметр. Модель на 70 млрд параметров, обученная на 1,4 трлн токенов, обошла заметно более крупные. Воспроизведение анализа другими группами дало уточнения, но статуса это не отменяет.

Есть на этой полке экспонат с двойным дном, и он поучительнее прочих. Теорема Минского и Пейперта 1969 года выдержала: однослойный перцептрон действительно не может выучить исключающее «или». А вывод «нейросети тупиковы», который из неё сделали, оказался ошибкой, и о нём речь ниже. Верная теорема и неверное обобщение из неё разошлись на семнадцать лет.

Отдельно стоит математический результат из урока 17, и он не про способности машин вовсе. При разной базовой частоте события несколько естественных определений справедливости не могут выполняться одновременно, и это доказано (Клейнберг, Муллайнатан и Рагхаван, 2016, а также Чулдечова, 2016). Спор о системе COMPAS был спором не о числах, а о том, что называть справедливостью. Спрятать ценностный выбор в код не получится, и это знание тоже не устареет.

Что сильно ослаблено

Полка «сильно ослаблено» собирает утверждения, которым наука обрезала претензии. В сильной форме неверно, в осторожной работает. Разница между двумя формами и теряется в пересказах. На карту вынесены те три, чью сильную форму пересказывают чаще всего. Каждое стоит помнить вместе с оговоркой.

Символьный ИИ как единственный путь к разуму обсуждали в уроке 3. Записывать знания правилами и выводить логически перестало быть дорогой к общему интеллекту. Но подход жив в гибридных системах, в верификации, в базах знаний. Фразу «Символьный ИИ полностью провалился» называют упрощением, и в такой форме утверждение уже неверно.

Фразу «Мы совсем не понимаем, как работают нейросети» мы разбирали в уроке 20. Механика обучения известна точно, до последней формулы: считается ошибка, считаются производные, сдвигаются параметры. Неизвестно другое, а именно какие внутренние представления и вычисления возникают у конкретной обученной модели. Работы по интерпретируемости дают реальные, но частичные результаты, и полного объяснения поведения крупной модели на 2026 год нет.

«Король минус мужчина плюс женщина равно королева» как строгий результат пришёл из урока 10. Знаменитая арифметика над векторами слов работает частично и чувствительна к настройкам, а исходную точку часто исключают из ответа вручную. Как иллюстрация идеи «близкие по употреблению слова получают близкие векторы» она годится вполне. Доказательством того, что модель уловила смысл, она не служит.

Где спор открыт

На карте она самая большая, и она же самая честная. «Спор открыт» значит, что аргументы и данные есть у обеих сторон, и решать читателю рано. Соблазн закрыть спор досрочно велик в обе стороны, и именно ему курс сопротивлялся сильнее всего.

Главный спор курса идёт об эмерджентности, урок 8. Вэй и соавторы заявили в 2022 году, что некоторые способности возникают скачком при переходе через размер модели. Шеффер, Миранда и Коеджо возразили в 2023-м: скачок создаёт выбор метрики. Разрывная метрика вроде точного совпадения строки рисует ступеньку там, где непрерывная показывает гладкий рост.

Возражение получило Outstanding Paper на NeurIPS 2023, и формулировать итог надо аккуратно. Часть заявленных скачков объясняется метрикой, но неизвестно, все ли. Это лучший в курсе пример того, как выбор измерения создаёт явление. Запомнить стоит именно приём: прежде чем объяснять скачок, посмотрите на шкалу, по которой его нарисовали.

Остальные открытые споры перечислим короче, с номерами уроков. «Горький урок» Саттона из урока 7: обыгрывает ли общий поиск с ростом вычислений вложенные человеческие знания. Есть области, где структурные допущения продолжают выигрывать. Верность записанной цепочки рассуждений из урока 15: записанное объяснение не обязано совпадать с тем, что вычислялось внутри. Полное решение галлюцинаций из уроков 13 и 23: механизм объясняет, почему это трудно.

Дальше идут три спора о больших вопросах, и все три курс оставил без вердикта. Понимает ли машина, урок 20: китайская комната Сёрла 1980 года и системный ответ спорят сорок с лишним лет. Сроки появления общего ИИ, урок 21: опросы исследователей дают огромный разброс, и прогнозы заметно менялись год от года. Масштаб влияния на занятость, урок 22: разброс оценок огромен, а методики несопоставимы между собой.

Что делать с открытым спором, курс показывал на каждом таком месте. Не выбирать сторону по симпатии, не объявлять победителя досрочно и не путать спор о мере со спором о факте. В случае с эмерджентностью спорят не о цифрах в таблицах, а о том, какая шкала рисует их честно. Умение держать вопрос открытым встречается реже, чем умение спорить, и стоит дороже.

Особняком стоит спор, который выглядит разговором о словах, но им не является. Фраза «Модель просто предсказывает следующее слово, значит не понимает» взята из урока 10. Первая половина фразы верна буквально, а вторая из неё автоматически не следует: чтобы хорошо предсказывать текст, полезно улавливать структуру того, о чём текст написан. Спор открыт, и обе стороны пользуются в нём одним и тем же фактом.

Что отвергнуто

«Отвергнуто» служит статусом для настоящих гипотез, которые проверили, и они не подтвердились. Две, стоившие области дороже всего, пришли из урока 3. Обе показывают, как дорого обходится вывод, сделанный шире доказанного.

«Нейросети это тупиковое направление». Так решили после 1969 года, прочитав теорему о перцептроне шире, чем она утверждала. Многослойные сети под доказательство не подпадали, но финансирование ушло, и наступила первая зима. Отвергнуто это самым убедительным способом: те же направления дали AlexNet в 2012 году и трансформер в 2017-м.

«Экспертные системы ведут к общему интеллекту». В восьмидесятые на этой ставке стоял отдельный рынок машин под язык Lisp. Системы работали в своей узкой области и оказывались уверенно неверными за её пределами, а поддержка обходилась дорого. Рынок рухнул, наступила вторая зима, и статус этой гипотезы с тех пор не менялся.

Отвергнутая гипотеза носит почётный статус, как ни странно это звучит. Её сформулировали проверяемо, проверили и отказались от неё по данным. Мифы со следующей полки устроены иначе: их никто не выдвигал как гипотезу и никто не проверял.

Что оказалось мифом

Миф в реестре означает не ошибку учёных, а утверждение, которого область не делала. Его приписали ей пересказы, реклама и кино. Разберём четыре самых ходовых, и удобнее всего по тому, кому каждый из них удобен.

Миф «Нейросеть работает как мозг» разобран в уроке 5. Искусственный «нейрон» это умножение и сложение. Обучение идёт способом, для которого в мозге аналога не нашли. Масштабы и энергия несопоставимы. Метафора живуча, потому что объясняет непонятное через знакомое и ничего не требует взамен. Она же и мешает: из неё выводят свойства, которых у сетей нет.

«ИИ объективен, потому что это математика» стоит в уроке 17. Модель воспроизводит закономерности данных, включая те, которые мы не хотели ей передавать. Инструмент отбора резюме в Amazon 2018 года понижал резюме со словом «женский», потому что учился на решениях прошлых лет. Миф удобен тем, что снимает с людей ответственность за выбор, спрятанный в код.

«Машина не может ошибаться в фактах, она же компьютер» приходит из уроков 13 и 23. Языковая модель производит правдоподобное продолжение текста, и сверки с миром внутри предсказания не происходит. Этот миф удобнее прочих: он экономит проверку, а проверка остаётся самой скучной частью любой работы. Четвёртый миф, «сдала экзамен, значит заменит специалиста», разобран в уроках 14 и 22, и удобен он тем, что продаёт.

Общее у всех четырёх видно, когда они стоят рядом. Каждый устроен удобнее правды: объясняет знакомым, снимает ответственность, экономит труд, помогает продать. Правда про механизм, про метрику и про оговорку не льстит и не продаётся. Тем полезнее держать этот список под рукой, особенно когда что-то очень хочется повторить.

Как обновлять картину

У прочих курсов школы карта живёт годами, потому что предмет стоит на месте. Здесь не так, и признать это надо прямо. Часть написанного устареет, причём не механизмы, а всё, что касается способностей конкретных систем. Поэтому вместо списка ссылок, который протухнет вместе с остальным, дадим метод из четырёх приёмов.

Первое: отличать механизм от лидерборда. Механизм это как устроено: спуск по градиенту, веса важности, предсказание следующего куска текста, надёжность цепочки как произведение вероятностей. Он не портится и переносится на любую следующую систему. Лидерборд показывает, кто сейчас впереди и с каким числом, и портится он за месяцы.

Второе: спрашивать дату. У всякого утверждения о способностях есть дата, и без неё утверждения попросту нет. «Модель решает такие задачи» без даты, без набора задач и без метрики даёт впечатление, а не факт. Дату полезно спрашивать и у правил: сроки европейского регламента об ИИ уже сдвигали. По состоянию на 2026 год обязательства для систем высокого риска сдвинуты на декабрь 2027 года, а обязанность маркировки синтетического контента осталась на августе 2026-го, хотя её перенос обсуждали.

Третье: читать заявления через Гудхарта и загрязнение. Закон Гудхарта звучит так: когда мера становится целью, она перестаёт быть хорошей мерой. Загрязнением называют попадание тестовых задач в обучающие данные, а тесты опубликованы в сети, на которой модели и учатся. Отсюда три вопроса к заголовку «модель сдала экзамен»: какой это набор задач, какой он даты и проверялось ли загрязнение.

Четвёртое: помнить две зимы, и в обе стороны. Обе зимы наступали не потому, что техника не работала, а потому, что обещания были даны шире возможностей. Это довод против восторга, и он проверен дважды. Но нейросети похоронили в 1969 году, а они вернулись, и это ровно такой же довод против поспешных похорон.

Есть и приём попроще, чисто читательский. Встретив громкое заявление, ищите не подтверждение ему, а возражение: кто проверил, что не сошлось, чем кончилось дело. У всех крупных сюжетов курса возражение нашлось, и почти всегда оно оказывалось содержательнее самой новости. Работа Шеффера и соавторов тут образец: возражение объяснило явление лучше, чем исходное заявление.

Из двух зим следует величина, на которую стоит смотреть в любом прогнозе. Это разрыв между демонстрацией и надёжной работой. Урок 16 показал его арифметику: при вероятности успеха шага 95 % цепочка из двадцати шагов проходит целиком примерно в 36 случаях из ста. Демонстрация из трёх шагов и задача из тридцати остаются разными вещами, а обещания обычно строят на первой.

Приёмы эти занимают минуту, а работают на любом заголовке. Механизм или лидерборд, какая дата, что именно измерили, чем кончались прошлые обещания такого рода. Если ответы не находятся, перед вами не новость о способностях, а объявление. Этому курс учил двадцать три урока подряд и на собственных примерах.

Куда дальше

Курс был началом, и продолжение у него готово. Фактическим ядром служил открытый учебник Dive into Deep Learning, он же d2l.ai, под свободной лицензией. Его приняли примерно в пятистах университетах семидесяти стран, включая Стэнфорд, MIT и Кембридж. Там лежит то, чего в наших уроках не было: формулы и работающий код.

Идти в d2l стоит тем, кто готов считать. Наш курс объяснял механизмы словами и картинками, а учебник объясняет их производными и матрицами. Разница не в сложности предмета, а в языке описания. Кто прошёл этот курс, откроет d2l уже понимая, зачем там нужна каждая глава.

Вторым адресом служит открытый курс Stanford CS229 по машинному обучению. Лекции, конспекты и задачи выложены свободно, и начинать можно с любой темы. Он даёт основы: как ставится задача обучения, как оценивается модель, откуда берутся ошибки. После него содержание уроков 4-8 станет считаемым, а не только понятным.

Из курсов школы к этому примыкают три, и каждый закрывает свою дыру. Статистика даёт язык оценок: выборка, разброс, значимость, доверительный интервал. Без них таблица с процентами читается наполовину. Критическое мышление разбирает заявления в общем виде, а урок 14 был лишь его специализацией для бенчмарков. Логика даёт формальный вывод, а на нём и стоял символьный подход из урока 3.

И два дела, которые стоит закончить здесь. Восемь тренажёров курса никуда не денутся, а четыре из них обучают настоящие модели прямо в браузере. Экзамен из тридцати вопросов проверяет не память на даты, а работу: какой механизм действует, что именно измерили, в каком состоянии спор.

Круг замкнулся

Вернёмся к тому, с чего всё начиналось. Первый урок заметил странное свойство области: как только машина начинает справляться надёжно, задачу вычёркивают из списка «требующих интеллекта». Искусственным интеллектом считались и шахматы, и распознавание речи, и перевод, и маршруты в пробках, пока всё это не заработало.

Теперь у вас есть, чем этот эффект уравновесить. Вопрос «настоящий ли это интеллект» вы задавать не станете, а вместо него есть три работающих. Как это устроено, что именно измерили, какой у утверждения статус. Ни один из трёх не устаревает вместе с моделями, и в этом был весь замысел курса.

Отсюда и последнее, что стоит унести. То, что сегодня называют искусственным интеллектом, через десять лет будут называть просто программой. Так уже случилось с шахматами, переводом и распознаванием лиц, и ничего обидного в этом нет. Список недоступного машинам будет пустеть ровно на то, что мы научились делать, и снова наполняться тем, чего пока не умеем. Это нормальный ход вещей, и теперь вы знаете, как за ним следить.

Вопросы для самопроверки

Что читать

• Dive into Deep Learning (d2l.ai): Открытый учебник под свободной лицензией, фактическое ядро курса. Для тех, кто готов считать: там те же механизмы, но производными, матрицами и работающим кодом.
• Stanford CS229 «Machine Learning»: Открытые лекции, конспекты и задачи. Каркас основ: как ставится задача обучения, как оценивается модель и откуда берутся ошибки.