대규모 언어 모델(LLM)은 챗GPT와 같은 생성형 AI를 구동하는 핵심 기술입니다. 그러나 메타의 AI 수석과학자인 얀 르쿤 부사장은 LLM이 사람 수준의 지능에 도달하지 못할 것이라고 말합니다. 이 글에서는 그가 말하는 LLM의 한계와 미래에 대해 알아보겠습니다.
1. 대규모 언어 모델의 한계
LLM은 수억에서 수천억 개의 언어 모델을 학습해 문장의 통계적 구성을 기반으로 작동합니다. [그러나 르쿤 부사장은 이러한 방식이 피상적이고 제한적이라고 지적합니다. AI가 인간처럼 유기적으로 결론을 내리지 못하고, 인간 공학자의 훈련 데이터에 의존하기 때문입니다.
생성형 AI는 올바른 훈련 데이터를 제공받았을 때만 프롬프트에 정확히 대답할 수 있습니다. 이는 본질적으로 안전하지 않습니다.
즉, AI의 추론은 많은 훈련 데이터로부터 축적된 지식을 활용하는 것일 뿐이라는 것이죠.
2. 인간 지능과 AI의 차이
LLM은 논리나 물리적 세계를 이해하지 못하며, 지속적인 기억력이 없고, 용어에 대한 합리적 정의를 추론할 수 없습니다. 또한, 계층적으로 계획할 수 없는 한계를 가지고 있습니다. 이는 AI가 사람처럼 유기적으로 사고하고 계획할 수 없음을 의미합니다.
르쿤 부사장은 AI의 논리 이해가 매우 제한적이며, 지속적인 메모리가 부족하다고 말합니다. 이는 AI가 인간처럼 복잡한 사고를 할 수 없다는 점을 강조합니다.
3. 메타의 AI 연구와 미래 비전
메타는 자체 LLM 개발에 수십억 달러를 투자하며 AI 선두 그룹을 따라잡기 위해 노력하고 있습니다. 르쿤 부사장은 인간 수준의 지능을 갖춘 기계를 개발하는 데 완전히 새로운 세대의 AI 시스템이 필요하다고 말합니다. 이를 위해 메타의 기초 AI 연구소에서는 500명의 직원이 연구를 진행 중입니다.
르쿤 부사장은 “우리는 인간과 유사한 방식으로 작동하는 AI를 만들기 위해 노력하고 있습니다. 이러한 비전을 달성하는 데 10년이 걸릴 수도 있습니다.”라고 밝혔습니다.
결론: 새로운 AI 접근 방식의 필요성
현재의 LLM의 진화는 피상적이고 제한적입니다. 르쿤 부사장은 초지능을 만들기 위한 급진적인 대안 접근 방식이 필요하다고 주장합니다. 그는 제프리 힌튼, 요수아 벤지오, 앤드류 응과 함께 ‘AI 4대 천왕’으로 불리며, AI 연구의 선두에 서 있습니다.
우리는 기계에서 초지능을 만들기 위해 새로운 접근 방식을 탐구하고 있습니다.
이는 현재의 LLM이 아닌, 전혀 다른 방식의 AI 시스템 개발이 필요하다는 것을 의미합니다.