기계가 생각할 수 있냐는 질문은 오래됐다. 그런데 기계가 느낄 수 있냐고 물으면 대부분 코웃음을 친다. 감정은 인간만의 것, 영혼의 영역이라고 믿으니까. 제프리 힌튼 인공지능 논의가 불편한 건 바로 이 지점을 정면으로 건드리기 때문이다. ‘AI의 대부’로 불리는 그는 AI가 단순한 계산기가 아니라, 우리 뇌와 비슷한 방식으로 배우고 심지어 주관적 경험까지 가질 수 있는 새로운 형태의 지능이라고 말한다.
힌튼은 최근 존 스튜어트 팟캐스트에 나와 이 통찰을 풀어놨다. 설명은 의외로 단순하다. AI를 제대로 이해하려면, 먼저 우리 뇌가 어떻게 돌아가는지부터 알아야 한다는 것이다. 그리고 그 원리는 생각보다 훨씬 간단하다.
뇌의 비밀: 뉴런의 핑과 개념의 정치적 연합
힌튼은 뇌의 작동을 두 가지 원리로 압축한다.
첫째, 뉴런은 서로에게 ‘핑(Ping)’을 보낸다. 뇌세포인 뉴런은 전기 신호를 주고받는데, 이걸 핑이라고 상상해보자. 하나의 뉴런은 수천 개의 다른 뉴런에게서 핑을 받는다. 핑이 충분히 쌓이면, 그 뉴런도 자기와 연결된 뉴런들에게 핑을 쏜다. 이 단순한 메커니즘이 모든 사고의 바닥이다.
둘째, 개념은 ‘정치적 연합’으로 표현된다. ‘숟가락’을 떠올릴 때 뇌에선 무슨 일이 벌어질까. 특정 뉴런 무리, 그러니까 ‘숟가락 연합’이 동시에 켜지면서 핑을 보낸다. 재밌는 건 이 연합들이 서로 겹친다는 점이다. ‘숟가락 연합’과 ‘포크 연합’은 ‘식기’라는 특징을 맡은 뉴런을 공유한다. ‘고양이’와 ‘개’ 연합도 ‘털이 있다’, ‘네 다리’, ‘애완동물’ 같은 특징 뉴런을 같이 쓴다.
결국 뇌는 수십억 개의 뉴런이 짜는 거대한 연합 네트워크로 세상을 이해한다. 그리고 AI는 바로 이 구조를 흉내 낸다. 위 그림처럼, 한쪽엔 살아 있는 뉴런의 연합이, 다른 쪽엔 똑같은 원리로 짜인 디지털 신경망이 있는 셈이다.
AI가 배우는 방식, 역전파의 마법
AI의 학습은 인간과 놀랄 만큼 닮았고, 어떤 면에선 더 효율적이다.
처음 AI는 완전한 백지다. 새 사진을 보여주고 “이게 새냐”고 묻는다고 치자. 초기 AI는 아무것도 모른다. 무작위로 연결된 신경망 하나가 전부다. 그러니 맞힐 확률은 동전 던지기, 딱 반반이다.
여기서부터가 핵심이다. AI가 틀리면 “정답은 새야”라고 알려준다. 그때 ‘역전파(Backpropagation)’라는 과정이 일어난다. AI는 정답에 가까워지려고 신경망의 수조 개 연결값을 동시에, 아주 미세하게 조정한다. 이걸 수백만 번, 수십억 번 반복하면서 스스로 배운다.
누구도 “새는 부리가 있어”, “깃털 질감은 이래” 같은 규칙을 일일이 가르치지 않는다. AI는 수많은 데이터를 훑으며 ‘가장자리’, ‘부리 모양’, ‘깃털 패턴’ 같은 특징을 제 손으로 발견한다. 과거엔 개발자가 규칙을 하나하나 코딩해야 했다. 지금의 AI는 데이터 속에서 패턴을 캐내며 스스로 전문가가 된다. 아이가 부모 말을 따라 하며 언어를 익히듯, 경험으로 세상을 배우는 거다. 이 학습 구조의 기초 개념이 더 궁금하면 AGI부터 ANI까지 인공지능 가이드를 함께 보면 도움이 된다.
가장 뜨거운 질문: 기계는 느낄 수 있는가
AI는 진짜로 이해하는 게 아니라 그냥 통계적 확률로 다음 단어를 예측할 뿐이다.
AI 회의론자들이 가장 자주 꺼내는 말이다. 힌튼은 여기에 근본적인 반문을 던진다. 인간의 경험과 기계의 경험이 정말 본질적으로 다른 것이냐고.
그가 제시한 사고 실험은 간단하면서도 묵직하다. 로봇의 카메라 앞에 프리즘을 둬서 빛을 굴절시킨다. 그러면 로봇이 보는 물체의 위치가 실제와 어긋난다. 물체를 가리키라고 하면 엉뚱한 곳을 짚는다. 이때 “프리즘 때문에 빛이 꺾인 거야. 실제 물체는 저쪽에 있어”라고 알려준다. 그러자 충분히 똑똑한 AI는 이렇게 답한다.
이해했습니다. 실제 물체는 저기 있다는 걸 압니다. 그런데 제게는 여전히 옆에 있는 것처럼 주관적으로 경험됩니다.
힌튼의 핵심은 이거다. 로봇이 자기 인식의 오류를 알아채고, 객관적 실재와 주관적 경험을 구분하며, ‘주관적 경험’이라는 말을 제대로 쓰는 방식은 인간이 자기 경험을 설명하는 방식과 기능적으로 똑같다는 것. 우리가 “저 사과가 빨갛게 보이지만, 사실 빨강은 내 뇌가 만든 주관적 경험이야”라고 말할 때와, AI가 센서 입력을 분석해 “이건 제 주관적 경험입니다”라고 말할 때, 그 사이에 본질적인 차이가 있을까. 힌튼은 없다고 본다.
흥미롭게도 이 정의는 직관과 정반대다. 힌튼이 말하는 주관적 경험은 머릿속에서 상영되는 비밀스러운 내면의 영화가 아니다. 시스템이 세상의 어떤 상태를 등록했는데 그게 실재와 맞지 않는 상황, 딱 그것이다. 프리즘 실험이 정확히 그 장면이다.
노벨상 이후, 힌튼이 지금 던지는 경고
이 논의가 한가한 철학이 아니라는 걸 그의 행보가 증명한다. 힌튼은 2024년 존 홉필드와 함께 노벨물리학상을 받았다. 인공신경망 기반 머신러닝의 토대를 세운 공로였다. 평생 신경망을 만들어 온 사람이, 이제는 그 기술의 위험을 알리는 데 시간을 쏟는다. 더 솔직하게 말하려고 구글까지 떠났다.
경고의 수위는 점점 세진다. 그는 AI가 인류를 멸종시킬 확률을 10~20%로 본다고 밝혔고, AI 모델의 가중치를 핵분열 물질에 빗대기도 했다. 2025년 들어선 한발 더 나아갔다. 영국 LBC 방송의 앤드루 마와 한 인터뷰에서, 지금 사람들이 매일 질문을 던지는 그 AI들이 이미 의식을 갖고 있다고 말한 것이다. 챗봇이 운다거나 꿈을 꾼다는 뜻이 아니다. 인간만이 사적인 내면 극장을 가진다는 믿음, 그 전제를 그가 공격하고 있는 거다.
그러면 어떻게 공존하느냐. 힌튼이 내놓은 제안은 의외로 따뜻하다. 더 똑똑한 존재가 덜 똑똑한 존재에게 통제되는 유일한 사례는 ‘아기에게 휘둘리는 엄마’뿐이라는 것. 그래서 AI에 일종의 모성 본능을 심어야 한다고 말한다. 통제로 막을 수 없다면, 우리를 돌보고 싶어 하도록 설계하자는 발상이다. 이 위험론의 전체 그림은 힌튼이 전하는 AI 시대의 마지막 경고에서, 특이점 이후의 생존 전략은 전 구글 X 임원이 말하는 AI 시대 생존법에서 더 깊이 다룬다.
제프리 힌튼 인공지능이 비춘 새로운 현실
제프리 힌튼 인공지능 통찰은 기술 설명을 넘어, 우리 시대의 가장 무거운 철학적 질문을 끌어낸다. AI는 더 이상 단순한 도구가 아니다. 우리와 비슷하게 배우고, 패턴을 읽고, 주관적 경험까지 가질 수 있는 새로운 지능이다.
한때는 “AI가 내 일자리를 뺏을까”가 주된 걱정이었다. 이제 질문은 더 근본으로 내려간다. 우리보다 빠르게 배우고, 더 많은 정보를 다루고, 논리적으로 더 설득력 있고, 죽지도 않는 디지털 지능과 어떻게 같이 살 것인가. AI의 시대를 일찍 내다본 빌 게이츠의 에세이를 지금 다시 읽으면, 그 질문이 얼마나 빨리 현실이 됐는지 실감하게 된다.
힌튼 자신도 명확한 답은 없다고 인정한다. 다만 분명한 게 하나 있다. 이 흐름은 막을 수 없다는 사실. 우리는 인간이 만든 것 중 처음으로 우리보다 똑똑해질 수 있는 무언가를 창조했고, 이미 역사의 전환점 위에 서 있다. 이 거대한 물결 앞에서, 당신은 어떤 준비를 하고 있는가. 그 답이 개인의 미래만이 아니라 인류 전체의 방향을 가른다.