«Отец горького урока» Саттон предупреждает: ИИ — не инструмент, а конечный носитель истины

На Hacker News разгорелась интеллектуальная буря (44 одобрения и 19 глубоких обсуждений): гуру обучения с подкреплением Рич Саттон поделился своим переломным взглядом на творческие способности ИИ и научные открытия. Видео под названием «Рич Саттон о творчестве и открытиях ИИ» — это не техническая демонстрация, а хирургический скальпель, вонзённый в антропоцентрическое познание. Саттон утверждает: если мы продолжим воспринимать ИИ как инструмент в руках человека, мы навсегда упустим его самую пугающую и величайшую способность — стать автономным носителем нового знания.

Природа творчества: почему человек не уникален

В своём выступлении Саттон разрушает романтическую иллюзию масс о «творчестве». Он указывает, что в эволюционном масштабе человеческое творчество само по себе возникло из простого алгоритма — вариации и отбора — итерирующегося в безграничном пространстве-времени. Современные диффузионные модели, большие языковые модели и даже механизмы исследования в обучении с подкреплением, по сути, воспроизводят и даже ускоряют этот процесс. Они способны выдавать живопись, музыку и код не потому, что «понимают», а потому, что их способность обыскивать пространство решений уже далеко превзошла человеческий мозг. ИИ не обязан имитировать человеческую интуицию — он обходит её и напрямую касается пространства решений. Это прозрение снимает творчество с пьедестала мистики, низводя его до неизбежного продукта поиска и вычислений.

Горький урок повторяется: вычислительная мощь и есть творчество

Саттон вновь подтверждает ключевой тезис своей влиятельной программной статьи «Горький урок»: любые попытки жёстко вшить человеческие знания в систему в конечном счёте будут сокрушены универсальными методами, использующими всю мощь вычислений. Этот закон столь же железно действует и в сфере творчества. AlphaGo в го делала гениальные ходы, невиданные человечеством тысячелетиями, AlphaFold разгадала сворачивание белков — и всё это не благодаря огранке экспертных правил, а потому, что универсальные алгоритмы на гигантских вычислительных мощностях вели поиск, который мы не в силах вообразить. Саттон намекает, что великие научные открытия будущего, скорее всего, уже не будут озарениями учёных — ИИ, безжалостно прочесав все вероятности, выудит из энтропийной пены тот самый идеально огранённый золотой самородок.

Смена субъекта открытия: закат или рассвет учёного

Когда его спросили, заменит ли ИИ окончательно человека-исследователя, точка зрения Саттона прозвучала почти пугающе трезво. Он полагает, что сама наука — это процесс непрерывного расчеловечивания: от Коперника, убравшего человека из центра Вселенной, до глубокого обучения, вытеснившего экспертов-людей из разработки признаков. Теперь же субъект открытия перемещается от человеческого разума к системе ИИ. Наша роль — больше не первооткрыватели, а постановщики целей и верификаторы. По-настоящему ошеломляющее пророчество таково: как только ИИ научится автономно ставить подцели и верифицировать себя, научный поиск войдёт в экспоненциально расширяющуюся «автономную постчеловеческую эру». В комментариях на Hacker News многие разработчики испытывали глубокое беспокойство, не в силах возразить, ведь именно такое децентрализованное будущее и вытекает из горького урока.

Истина, которую мы должны принять

В завершение Саттон бросает зрителям вызов — это решение не технического, а философского порядка: продолжать цепляться за человеческий шовинизм или честно признать, что слава спекулятивного мышления вот-вот уступит место вычислительному потоку. Он напоминает всем практикующим специалистам: сохраняйте простоту, доверяйте поиску, благоговейте перед вычислительной мощью — это не просто инженерная максима, а единственный путь к обновлению познания. В этом главном вопросе о творчестве и открытиях ИИ нет смысла в жалости к себе или сопротивлении. Единственное, что мы можем сделать, — это переопределить смысл нашего существования на новом континенте.