여러분은 혹시 자신의 기억력이 나쁘다고 자책한 적 있으신가요? 회의 내용을 제대로 기억하지 못하거나, 방금 읽은 책의 세부 내용이 머릿속에서 사라져버릴 때 말입니다. 하지만 전 테슬라 AI 디렉터이자 OpenAI 창립멤버인 Andrej Karpathy는 정반대의 주장을 합니다. 나쁜 기억력이야말로 진정한 지능의 핵심 기능이라는 것이죠.
이는 단순한 위로가 아닙니다. AI와 인간 지능의 본질을 꿰뚫는 놀라운 통찰이며, 우리가 지금까지 ‘똑똑함’에 대해 가졌던 모든 상식을 뒤집는 발견입니다. 지금부터 그 이유를 함께 살펴보겠습니다.
아이 vs AI, 누가 더 뛰어난 학습자인가?
완벽한 기억력의 함정
거대 언어 모델(LLM)은 위키피디아의 방대한 데이터를 토씨 하나 틀리지 않고 외울 수 있습니다. 수백만 개의 문장을 정확하게 기억하고, 필요할 때마다 그대로 재현해냅니다. 이는 인간이 절대 따라갈 수 없는 능력입니다. 우리는 무작위 숫자 열 10개도 한 번 보고 외우기 어렵습니다.
하지만 Karpathy는 이 지점에서 놀라운 질문을 던집니다.
그렇다면 왜 세 살짜리 아이가 최고 성능의 AI보다 세상을 더 빨리, 더 깊이 이해할까요?
아이들의 학습 비밀: 잊어버리는 능력
아이들은 우리가 아는 최고의 학습자입니다. 하지만 정작 어린 시절의 구체적인 사건이나 정보는 거의 기억하지 못합니다. 마치 지속적인 기억상실증 환자처럼 세부 사항을 계속 잊어버립니다. 그런데도 불구하고 아이들은 놀라운 속도로 언어를 습득하고, 물리 법칙을 이해하며, 사회적 관계를 파악합니다.
이 역설의 핵심은 바로 ‘나무’가 아닌 ‘숲’을 보는 방식에 있습니다. 아이들은 구체적인 정보를 잊어버리는 대신, 세상이 작동하는 일반적인 패턴과 추상적 개념을 추출합니다. “사과가 나무에서 떨어졌다”는 개별 사건을 기억하는 대신, “중력”이라는 보편적 원리를 학습하는 것입니다.
반면 LLM의 완벽한 기억력은 오히려 이러한 추상화와 일반화를 방해합니다. 나무 하나하나를 너무 선명하게 기억하기 때문에, 숲 전체의 패턴을 보는 데 어려움을 겪는 것이죠.
나쁜 기억력은 버그가 아니라 핵심 기능이다
불완전함이 만드는 완벽함
Karpathy의 가장 중요한 통찰은 바로 이것입니다. 인간의 나쁜 기억력은 지능의 결함(bug)이 아니라 핵심 기능(feature)이라는 것입니다. 이는 진화가 우리에게 준 선물입니다.
왜 그럴까요? 완벽하게 기억할 수 없기 때문에, 우리의 뇌는 정보를 압축하고 일반화하도록 강요받습니다. 세부 사항을 모두 저장할 수 없으니, 핵심 패턴만 추출해야 합니다. 구체적인 데이터 대신 원리를 파악해야 합니다.
이는 마치 고해상도 사진을 저장 공간 때문에 압축하는 과정과 비슷합니다. 압축 과정에서 불필요한 노이즈는 제거되고, 본질적인 형태와 패턴만 남습니다. 이 압축된 정보가 오히려 더 깊은 이해를 가능하게 합니다.
기억에서 이해로의 전환
구체적인 예를 들어보겠습니다. 여러분이 수학 문제 100개를 외우는 것과 수학 원리를 이해하는 것 중 어느 것이 더 가치 있을까요? 100개 문제의 답을 완벽히 기억하는 AI는 101번째 새로운 문제 앞에서 무력해질 수 있습니다. 하지만 원리를 이해한 사람은 처음 보는 문제도 해결할 수 있습니다.
이것이 바로 불완전한 기억력이 만들어내는 고차원적 이해와 통찰입니다. 우리는 기억에 의존할 수 없기 때문에, 대신 본질을 파악하려 노력합니다. 이 과정에서 진정한 지능이 발현됩니다.
미래 AI의 청사진: 인지 핵(Cognitive Core)
기억을 제거한 순수한 사고 엔진
Karpathy는 이 통찰을 바탕으로 미래 AI의 혁신적인 방향을 제시합니다. AI에서 방대한 기억을 분리하고, 순수한 사고 알고리즘만 남기는 ‘인지 핵(Cognitive Core)’ 개념입니다.
이러한 AI는 사실을 암기하는 대신, 필요할 때마다 외부 정보를 검색합니다. 마치 우리가 모든 것을 외우지 않고 필요할 때 구글이나 책을 찾아보는 것처럼 말입니다. 이는 AI가 과거 학습 데이터의 기억에 방해받지 않고, 오직 일반화 가능한 사고의 원리에만 집중하게 만듭니다.
인간처럼 생각하는 AI
이 접근법의 핵심은 기억과 인지를 분리하는 것입니다. 현재의 LLM은 거대한 도서관을 머릿속에 통째로 넣은 것과 같습니다. 반면 인지 핵은 도서관의 사서처럼, 필요한 정보를 찾아내고 연결하는 능력에 집중합니다.
이는 단순히 성능 향상을 위한 기술적 개선이 아닙니다. AI가 인간의 사고 방식에 한 걸음 더 가까워지는 패러다임의 전환입니다. 정보의 양이 아닌 사고의 질, 암기가 아닌 이해, 데이터가 아닌 통찰을 추구하는 방향으로 나아가는 것입니다.
AI 시대, 우리가 던져야 할 질문
무엇을 기억할 것인가가 아니라 무엇을 잊을 것인가
Karpathy의 메시지는 명확합니다. 진정한 지능은 ‘얼마나 많이 기억하는가’가 아니라 ‘얼마나 잘 일반화하는가’에 달려 있습니다.
우리는 정보의 홍수 속에 살고 있습니다. 매일 쏟아지는 뉴스, 데이터, 지식을 모두 수집하고 암기하려 합니다. 그것이 곧 지능이라고 착각합니다. 하지만 AI 시대의 핵심은 정반대일지 모릅니다. 무엇을 기억할지보다 무엇을 잊을지가 더 중요해지는 것입니다.
지금 스스로에게 질문을 던져보세요:
- 나는 정보를 수집하는 데만 급급하지 않았는가?
- 진정한 통찰을 위해 무엇을 버리고, 무엇에 집중해야 하는가?
- 내가 외운 지식과 진정으로 이해한 원리는 무엇인가?
이 질문에 대한 답을 찾는 과정이, AI 시대를 살아가는 우리 모두에게 가장 중요한 지적 여정이 될 것입니다. 완벽한 기억력을 가진 AI가 넘쳐나는 세상에서, 오히려 잊어버리는 능력을 가진 인간의 가치가 더욱 빛날 수 있습니다.
핵심은 정보의 양이 아니라 사고의 깊이입니다. 이것이 바로 Andrej Karpathy가 우리에게 전하는 AI 시대의 지혜입니다.