AI 시대의 ‘말 없는 마차’에 대하여

‘말 없는 마차’ 현상이란?

‘말 없는 마차’는 초기 자동차 산업에서 나타난 흥미로운 현상입니다. 최초의 자동차들은 마차에서 말만 빼고 엔진을 달아놓은 형태였습니다. 이 디자인은 당시 사람들의 이해와 수용을 돕기 위한 접근이었지만, 결과적으로는 자동차의 잠재력을 제한하는 요소가 되었죠.

1803년 트레비딕(Trevithick)의 증기 마차 설계를 생각해보세요. 당시로서는 혁신적으로 보였지만, 지금의 관점에서 보면 자동차의 기본 구조에 부적합했습니다.

사람들은 이런 마차를 타보고 “엔진보다 말이 낫다”고 생각했을 수 있습니다. 그리고 그 판단은 진정한 자동차가 등장하기 전까지는 타당했습니다.

현재 AI 애플리케이션들도 이와 놀랍도록 유사한 상황에 처해 있습니다. 기존의 소프트웨어 구조에 AI를 단순히 덧붙이는 방식으로 개발되고 있어, AI의 진정한 잠재력을 발휘하지 못하고 있는 것입니다.

Gmail의 AI 기능은 왜 실망스러운가?

Gmail은 최근 Gemini 모델을 활용한 이메일 작성 도우미 기능을 출시했습니다. 하지만 많은 사용자들이 이 기능에 실망하고 있습니다. 그 이유는 무엇일까요?

한 사용자의 실제 경험을 살펴보면 그 이유를 알 수 있습니다. 이 사용자는 상사에게 보낼 간단한 이메일 초안을 작성해달라고 Gemini에 요청했습니다. 그의 평소 스타일은 “hey garry, my daughter woke up with the flu so I won’t make it in today”와 같은 간결하고 친근한 문체였지만 Gemini가 생성한 초안은 지나치게 형식적이고 장황했으며, 그의 개인적인 문체와는 전혀 달랐던 것이죠.

이 사용자는 이 경험을 “성과가 부족한 직원을 관리하는 느낌”이라고 표현했습니다. 결과적으로 AI 도우미를 사용하는 것이 직접 이메일을 작성하는 것보다 더 많은 시간을 소비하게 만들었습니다. 이는 AI 기술의 한계가 아니라, Gmail 팀의 앱 설계 방식이 문제였습니다.

System Prompt의 중요성과 사용자 권한

이러한 문제의 핵심에는 ‘System Prompt’가 있습니다. LLM(Large Language Model)은 본질적으로 입력된 단어(프롬프트)를 기반으로 다음 단어를 예측하는 시스템입니다. 이때 프롬프트는 일반적으로 System Prompt와 User Prompt로 구분됩니다.

• System Prompt: 에이전트의 성격과 행동 방식을 정의 (함수에 해당)
• User Prompt: 사용자로부터의 특정 요청 또는 질문 (입력값에 해당)
• 모델의 응답: 출력값

Gmail의 경우, System Prompt는 대략 다음과 같을 것으로 추정됩니다:

You are a helpful email-writing assistant responsible for writing emails on behalf of a Gmail user. Follow the user's instructions and use a formal, businessy tone and correct punctuation so that it's obvious the user is smart and serious.

문제는 Gmail이 이 System Prompt를 공개하지 않으며, 사용자에게 수정 권한도 주지 않는다는 점입니다. 만약 Gmail이 사용자에게 System Prompt 수정 권한을 부여했다면, 위의 사용자는 자신의 스타일에 맞게 다음과 같이 작성할 수 있었을 것입니다:

You're Pete, a 43 year old husband, father, programmer, and YC Partner. You're very busy and so is everyone you correspond with, so you do your best to keep your emails as short as possible and to the point. You avoid all unnecessary words and you often omit punctuation or leave misspellings unaddressed because it's not a big deal and you'd rather save the time. You prefer one-line emails. Do your best to be kind, and don't be so informal that it comes across as rude.

이러한 맞춤형 System Prompt를 통해 생성된 이메일은 “Garry, my daughter has the flu. I can’t come in today.”와 같이 간결하고 사용자의 스타일에 부합하는 결과물이 될 것입니다.

진정한 AI 네이티브 앱의 모습

지금까지의 소프트웨어 산업은 개발자와 사용자의 역할을 명확히 구분하는 방식으로 성장해왔습니다:

• 개발자: 소프트웨어의 일반적 동작을 결정
• 사용자: 구체적인 입력을 제공

하지만 LLM 시대에는 이러한 경계가 흐려질 수 있습니다. 사용자가 프로그래밍 없이도 AI의 동작 방식(System Prompt)을 직접 설계할 수 있기 때문입니다. 특히 이메일과 같이 개인적인 영역에서는 사용자가, 자신을 대신해 행동하는 AI의 스타일을 직접 가르칠 수 있어야 합니다.

진정한 AI 네이티브 이메일 클라이언트는 어떤 모습일까요? 아래와 같은 이메일 리딩 에이전트를 상상해볼 수 있습니다:

이메일 리딩 에이전트

이 에이전트는 이메일을 작성하는 것이 아니라, 읽고 처리하는 방식으로 작동합니다. 다음과 같은 도구들을 활용할 수 있습니다:

• labelEmail(label, color, priority): 이메일에 라벨을 지정
• archiveEmail(): 이메일을 아카이브 처리
• draftReply(body): 회신 초안 작성

이 에이전트는 각 이메일을 읽고:

• 스팸을 걸러내고
• 중요도에 따라 라벨링하며
• 요약하거나 회신 초안을 작성하고
• 불필요한 메일은 자동 아카이브합니다

여기에 몇 가지 도구만 더 추가하면 구독 취소, 일정 등록, 청구서 자동 납부까지 가능해집니다. 이것이 바로 AI 네이티브 이메일 클라이언트가 해야 할 일입니다. 즉, 지루한 반복 작업을 자동화하여 사용자의 시간을 절약하는 것입니다.

개발자의 새로운 역할

그렇다면 AI 시대에 개발자는 무엇을 해야 할까요? 개발자의 역할은 완성된 에이전트(agent)를 제공하는 것이 아니라, 사용자가 자신의 에이전트를 만들 수 있는 도구(agent builder)를 제공하는 것이어야 합니다.

구체적으로 다음과 같은 역할을 수행해야 합니다:

• 특정 도메인에 특화된 에이전트 빌더 UI 설계: 이메일, 회계장부 등 각 영역에 맞는 인터페이스 제공
• 템플릿과 프롬프트 생성 도우미 제공: 사용자들이 처음부터 프롬프트를 작성하지 않아도 되도록 지원
• 피드백 루프 인터페이스 제공: 사용자가 에이전트의 결과물을 확인하고 수정할 수 있는 환경 구축
• 에이전트 도구(agent tools) 제공: 이메일 초안 제출, 자동 전송, 이메일 검색, 외부 API 연결 등

이러한 도구들은 에이전트의 행동 범위와 보안성을 제어하는 수단이 됩니다. 코드로 작성된 도구를 통해 행동을 제한하는 것이 텍스트 프롬프트에서 제약하는 것보다 훨씬 안전하고 명확합니다.

AI의 진정한 가치: 자동화와 생산성

AI의 진정한 킬러 앱은 “내가 하기 싫은 일”을 컴퓨터가 대신하게 만드는 것입니다. 기존 Gmail 팀이 만든 것은 “AI를 얹은 이메일 앱”으로, 사용자를 위한 자동화 도구가 아닌, 사람 중심의 인터페이스에 AI를 억지로 끼워 넣은 형태입니다.

반면, 진정한 AI 네이티브 앱은:

• 특정 도메인에서 사용자의 레버리지를 최대화합니다
• 반복적이고 지루한 일은 모두 에이전트가 대신 처리합니다
• 사용자는 중요한 일에 집중할 수 있게 됩니다
• 사용자가 잘하는 일, 좋아하는 일을 더 많이 할 수 있게 됩니다

이것이 바로 AI의 미래가 흥미로운 이유입니다. 더 나은 도구, 더 나은 시간 활용, 더 높은 생산성을 가능하게 하기 때문입니다.

결론: AI 앱의 미래는 사용자 주도적 설계에 있다

현재 대부분의 AI 앱들은 기존 소프트웨어 패러다임에 AI를 덧붙이는 방식으로 개발되고 있습니다. 이는 마치 초기 자동차가 마차의 형태를 유지한 채 말 대신 엔진을 달았던 것과 유사합니다.

진정한 AI 네이티브 앱은 사용자에게 System Prompt에 대한 접근 권한을 부여하고, 반복적인 작업을 자동화하여 사용자의 시간을 절약해주어야 합니다. 개발자는 완성된 에이전트가 아닌, 사용자가 자신만의 에이전트를 만들 수 있는 도구를 제공해야 합니다.

여러분이 AI를 활용하는 앱을 선택하거나 개발할 때, ‘말 없는 마차’ 함정에 빠지지 않았는지 고려해보세요. 진정으로 혁신적인 AI 앱은 기존 패러다임을 넘어, 사용자에게 더 많은 제어권을 부여하고 지루한 반복 작업에서 해방시켜주는 앱일 것입니다.