AI 시장이 또 한 번 거대한 전환점을 맞이하고 있습니다. 그리고 이번 변화는 단순히 성능이 좋아지는 수준이 아닙니다. AI가 ‘알려주는 도구’에서 ‘대신 일하는 도구’로 근본적인 역할 전환을 하고 있다는 점에서, 이는 비즈니스 생태계 전체를 뒤흔들 혁명적 변화입니다.
최근 AI 데이터 라벨링 시장의 선두주자 Scale AI의 새 CEO 제이슨 드로이(Jason Droy)가 공개한 첫 인터뷰는 이러한 변화의 핵심을 정확히 짚어냅니다. AI 모델을 더 똑똑하게 만드는 데이터의 최전선에서 일해온 그의 관점은, AI 기술을 실제 비즈니스에 적용하려는 이들에게 필수적인 통찰을 제공합니다.
AI 훈련 방식의 근본적 변화: 단순 비교에서 전문가 지식으로
불과 18개월 전만 해도 AI 모델을 훈련시키는 방식은 비교적 단순했습니다. “이 단편소설이 저 단편소설보다 나은가?”와 같은 선호도 비교 작업이 주를 이뤘죠. 이런 작업은 상대적으로 단순한 판단력만 있으면 누구나 수행할 수 있었습니다.
그러나 현재 상황은 완전히 달라졌습니다. 오늘날 AI 모델은 “세계 최고 수준의 웹 개발자처럼 전체 웹사이트를 설계하고 구축하라”거나 “암의 특정 유형에 대한 복잡하고 미묘한 의학적 개념을 정확하게 설명하라”는 식의 고난도 작업을 학습합니다.
이러한 변화가 의미하는 바는 명확합니다. AI의 성능 향상은 더 이상 데이터의 ‘양’만으로 결정되지 않습니다. 얼마나 깊고 전문적인 ‘질적 지식’을 학습하느냐가 승부를 가릅니다.
실제로 Scale AI의 전문가 네트워크를 살펴보면 이런 변화가 그대로 드러납니다. 현재 이들의 전문가 풀 중 80%가 학사 학위 이상 소지자이며, 15%는 박사 학위를 보유하고 있습니다. AI를 훈련시키기 위해 박사급 전문가가 필요한 시대가 온 것입니다. 이는 단순히 AI가 똑똑해졌다는 차원을 넘어, AI가 다루는 문제의 복잡도와 전문성 자체가 차원이 달라졌음을 의미합니다.
‘Knowing AI’에서 ‘Doing AI’로: 에이전트 시대의 개막
제이슨 드로이가 제시하는 AI의 다음 단계는 명확합니다. ‘아는(knowing) 모델’에서 ‘하는(doing) 모델’로의 전환입니다.
지금까지의 AI는 기본적으로 지식 기반 시스템이었습니다. 방대한 데이터를 학습해 질문에 답하고, 정보를 제공하고, 때로는 창의적인 콘텐츠를 생성했죠. 그러나 이 모든 것은 본질적으로 ‘응답’의 영역이었습니다. 사용자가 명령을 내리면, AI가 그에 맞는 결과물을 내놓는 구조였습니다.
하지만 이제 패러다임이 바뀌고 있습니다. 앞으로의 AI는 단순히 정보를 제공하는 것을 넘어, 특정 목표를 달성하기 위해 복잡한 환경 속에서 자율적으로 판단하고 행동하는 ‘에이전트’로 진화합니다.
구체적인 예를 들어볼까요? 세일즈포스(Salesforce) 같은 복잡한 CRM 시스템을 생각해봅시다. 기존 AI는 “세일즈포스에서 지난달 매출 데이터를 요약해줘”라는 요청에 답할 수 있었습니다. 그러나 AI 에이전트는 한 걸음 더 나아갑니다. “영업팀의 분기 목표 달성을 위해 세일즈포스 데이터를 분석하고, 우선순위가 높은 고객 10명을 식별하고, 각 고객에게 보낼 맞춤형 제안서 초안을 작성하고, 담당 영업사원의 일정을 확인해 최적의 컨택 시점을 제안하라”는 복합적인 업무를 자율적으로 수행할 수 있습니다.
의료 분야에서도 마찬가지입니다. 단순히 의학 지식을 검색하는 것을 넘어, 환자의 복잡한 의료 기록을 종합적으로 분석하고, 여러 전문의의 소견을 통합하고, 최신 연구 결과와 비교하여 최적의 치료 계획을 제안하는 수준으로 발전하고 있습니다.
핵심은 이것입니다. “나를 위해 무엇을 알려줄 수 있는가?”에서 **”나를 위해 무엇을 해줄 수 있는가?”로 질문이 바뀐 것이죠. 그리고 AI 에이전트는 바로 이 두 번째 질문에 답하기 위해 설계되고 있습니다.
기업 AI 도입의 불편한 진실: 마법은 없다
최근 기업 현장에서는 AI에 대한 회의론이 고개를 들고 있습니다. “AI가 약속한 혁명적 변화는 어디 있는가?”, “파일럿 프로젝트는 성공적이었는데 왜 실제 도입은 실패했는가?”와 같은 질문들이 쏟아집니다.
제이슨 드로이는 이에 대해 냉정하지만 정직한 답변을 내놓습니다.
중요한 비즈니스 프로세스를 AI로 완전히 자동화할 수 있을 만큼 견고하게 만드는 데는 최소 6개월에서 12개월이 걸립니다.
이는 결코 짧은 시간이 아닙니다. 그리고 이 기간 동안 해야 할 일은 결코 화려하지 않습니다. 제이슨은 이를 “미국 전역에 광대역 인터넷을 깔기 위해 모든 도로를 파헤치는 작업”에 비유합니다. 헤드라인은 “초고속 인터넷 시대 개막”이지만, 실제 현장에서는 땅을 파고, 케이블을 깔고, 연결하고, 테스트하는 지루하고 힘든 작업이 수개월간 이어집니다.
AI 도입도 마찬가지입니다. 데모에서는 놀라운 결과가 나옵니다. 개념 증명(POC)도 성공적입니다. 그러나 실제 업무 환경에 적용하려면 예외 케이스를 처리하고, 기존 시스템과 통합하고, 보안 요구사항을 충족하고, 사용자 교육을 하고, 지속적으로 모니터링하고 개선하는 ‘마지막 1%’의 작업이 필요합니다.
대부분의 AI 파일럿 프로젝트가 실패하는 이유는 기술이 부족해서가 아닙니다. 이 지루하고 반복적인 ‘마지막 1%’를 완성하는 인내심과 자원이 부족하기 때문입니다.
실제 통계를 보면 이러한 현실이 더욱 명확해집니다. 가트너(Gartner)의 2024년 조사에 따르면, AI 프로젝트의 85%가 파일럿 단계를 넘어서지 못하고 중단됩니다. 그리고 그중 대다수가 ‘기술적 한계’ 때문이 아니라 ‘조직적 준비 부족’과 ‘장기적 투자에 대한 의지 부족’ 때문이라고 응답했습니다.
지금 준비해야 할 것
AI의 패러다임이 ‘지식’에서 ‘실행’으로 전환되는 이 시점에서, 비즈니스 리더들이 던져야 할 질문은 이것입니다.
우리 비즈니스에서 가장 반복적이면서도 핵심적인 프로세스는 무엇인가? 그리고 AI 에이전트가 그 일을 우리를 대신해 수행하게 하려면, 어떤 전문 지식과 데이터가 필요한가?
이 질문에 대한 답을 찾는 것은 쉽지 않습니다. 그러나 이 답을 먼저 찾아내는 기업이 향후 3~5년의 경쟁에서 결정적인 우위를 점하게 될 것입니다.
- 첫째, 자동화 가능성이 높은 프로세스를 식별하세요. 고객 지원, 데이터 분석, 보고서 작성, 일정 관리 등 반복적이면서도 전문성이 요구되는 업무를 우선순위화하세요.
- 둘째, 해당 프로세스에 필요한 전문 지식을 명문화하세요. AI 에이전트를 훈련시키려면 무엇을 ‘어떻게’ 하는지에 대한 명확한 지식이 필요합니다. 이는 곧 조직의 암묵지를 형식지로 전환하는 과정이기도 합니다.
- 셋째, 6~12개월의 장기 프로젝트로 접근하세요. 빠른 성과를 기대하지 마세요. 대신 견고하고 확장 가능한 시스템을 구축하는 데 집중하세요.
- 넷째, 전문가와 협력하세요. AI를 제대로 활용하려면 도메인 전문가와 AI 전문가의 긴밀한 협업이 필수입니다. 한쪽만으로는 성공할 수 없습니다.
노동의 도구로서의 AI
우리는 지금 AI가 ‘정보의 도구’에서 ‘노동의 도구’로 전환되는 역사적 순간에 서 있습니다. 이는 단순히 기술의 진보가 아니라, 인간의 일하는 방식 자체를 근본적으로 재정의하는 변화입니다.
화려한 AI 헤드라인 뒤에는 지루하지만 필수적인 작업들이 숨어있습니다. 데이터 정제, 프로세스 표준화, 시스템 통합, 지속적인 모니터링과 개선. 이런 것들이 없다면 AI는 그저 흥미로운 데모에 그칠 뿐입니다.
그러나 이 지루한 과정을 견디고 완성해내는 기업은 엄청난 보상을 얻게 될 것입니다. AI 에이전트가 24시간 쉬지 않고 복잡한 업무를 처리하고, 인간 직원은 더 창의적이고 전략적인 일에 집중할 수 있는 조직. 이것이 바로 ‘Doing AI’ 시대의 승자가 될 기업의 모습입니다.
지금 당장 시작하십시오. 당신의 비즈니스에서 AI가 ‘대신 일할 수 있는’ 영역을 찾고, 그것을 현실로 만들기 위한 긴 여정을 시작하십시오. 그 여정의 끝에서, 당신은 완전히 새로운 차원의 비즈니스를 만나게 될 것입니다.