"쓴 교훈"의 아버지 서튼의 최신 경고: AI는 도구가 아니라 진리를 발견하는 궁극적 매개체

Hacker News에서 사상적 폭풍을 일으키며(44개의 공감과 19개의 심도 있는 논의를 이끌어내며), 강화 학습의 대부 리치 서튼이 AI의 창의성과 과학적 발견에 관한 전복적인 견해를 최근 공유했습니다. 《Rich Sutton on AI creativity and discovery》라는 제목의 이 영상은 기술 데모가 아니라, 인간 중심주의적 인식에 칼을 들이대는 수술용 메스와 같습니다. 서튼은 만약 AI를 계속해서 인간 손에 쥐어진 도구로만 여긴다면, 우리는 AI의 가장 두렵고도 위대한 잠재력, 즉 자율적으로 새로운 지식을 발견하는 매개체가 될 가능성을 영영 놓치게 될 것이라고 단언합니다.

창의성의 본질: 인간이 특별하지 않은 이유

서튼은 이번 공유에서 '창의성'에 대한 대중의 낭만적 환상을 철저히 해체합니다. 그는 진화적 관점에서 볼 때, 인간의 창의성 자체가 변이와 선택이라는 단순한 알고리즘이 장구한 시공간 속에서 반복된 결과물이라고 지적합니다. 현재의 확산 모델, 거대 언어 모델, 그리고 강화 학습의 탐색 메커니즘은 본질적으로 이 과정을 복제하고 가속화하고 있습니다. 이들이 그림, 음악, 코드를 출력할 수 있는 것은 '이해'해서가 아니라, 탐색 공간을 다루는 능력이 이미 인간의 두뇌를 훨씬 뛰어넘었기 때문입니다. AI는 인간의 직관을 모방할 필요 없이, 직관을 우회하여 곧바로 해 공간에 도달합니다. 이 통찰은 창의성을 신비주의의 높은 제단에서 끌어내려, 탐색과 계산의 필연적 산물로 정의해 버립니다.

쓴 교훈의 재현: 연산 능력이 곧 창의성이다

서튼은 깊은 영향을 미친 그 유명한 성명서 《쓴 교훈》의 핵심 주장을 다시 한 번 강조합니다. 인간의 지식을 시스템에 하드코딩하려는 모든 노력은 결국 막대한 연산 능력을 활용한 범용적 방법에 의해 짓밟히게 된다는 것입니다. 이 법칙은 창의성 영역에서도 냉혹하게 적용됩니다. 바둑의 AlphaGo는 인류가 천 년 동안 보지 못한 신의 한 수를 두었고, 단백질 접힘은 AlphaFold에 의해 해결되었습니다. 이 모든 것은 전문가 규칙이 정교하게 다듬어져서가 아니라, 범용 알고리즘이 막대한 연산 능력을 바탕으로 우리가 상상할 수 없는 탐색을 수행했기 때문입니다. 서튼은 미래의 중대한 과학적 발견은 더 이상 과학자의 번뜩이는 영감에서 비롯되지 않고, AI가 냉혹하게 가능성을 탐색한 끝에 엔트로피 풀에서 가장 반듯한 금덩이를 건져 올리는 형태가 될 것이라고 암시합니다.

발견 주체의 전환: 과학자의 황혼인가, 여명인가

AI가 인간 연구자를 완전히 대체할 것인지 묻는 질문에, 서튼의 관점은 냉혹하다 싶을 정도로 담담합니다. 그는 과학 자체가 탈인간화의 지속적인 과정이라고 봅니다. 코페르니쿠스가 인류를 우주의 중심에서 밀어낸 것부터, 딥러닝이 인간 전문가를 특성 공학에서 물러나게 한 것까지가 그 예입니다. 이제는 발견의 주체가 인간의 마음에서 AI 시스템으로 이동하고 있습니다. 우리의 역할은 더 이상 발견자가 아니라, 목표 설정자이자 검증자입니다. 진정으로 충격적인 예언은 이것입니다. 일단 AI가 스스로 하위 목표를 설정하고 자기 검증하는 법을 배우게 된다면, 과학적 탐구는 기하급수적으로 팽창하는 '자동화된 탈인간의 시대'로 진입할 것이라는 겁니다. Hacker News 댓글란에서 많은 개발자들은 이에 대해 깊은 불안을 느끼면서도, 쓴 교훈으로부터 도출된 것이 바로 이와 같은 탈중앙화된 미래라는 점에 논리적으로 반박하기 어려워했습니다.

우리가 반드시 받아들여야 할 진실

서튼이 마지막으로 청중에게 던진 것은 기술적 로드맵의 선택이 아니라, 철학적 입장에 대한 결단입니다. 인간 우월주의를 고수할 것인가, 아니면 사변의 영광이 곧 계산의 거대한 흐름에 자리를 내줄 것임을 담담히 인정할 것인가 하는 문제입니다. 그는 모든 실무자들에게 단순함을 유지하고, 탐색을 신뢰하며, 연산 능력을 경외하라고 상기시킵니다. 이것은 단순한 공학적 격언이 아니라, 인지적 업그레이드를 위한 유일한 통로입니다. AI의 창의성과 발견이라는 이 궁극적인 명제 앞에서, 자기 연민이나 저항은 아무런 의미가 없습니다. 우리가 유일하게 할 수 있는 일은, 새로운 대륙에서 우리가 살아갈 의미를 다시 정의하는 것뿐입니다.