전직 직원이 공개하는 OpenAI의 내부 이야기

폭발적 성장의 명암

OpenAI의 가장 큰 특징은 믿기 어려운 성장 속도입니다. 이 직원이 입사했을 때 1,000명이던 직원 수는 1년 만에 3,000명을 넘어섰습니다. 그의 재직 기간만으로도 상위 30%에 들 정도였다고 하니, 얼마나 빠른 변화인지 실감할 수 있습니다.

이러한 급성장은 필연적으로 조직 내 혼란을 가져왔습니다. 커뮤니케이션 체계, 인사 조직, 제품 출시 프로세스 등 거의 모든 것이 끊임없이 변화해야 했죠. 하지만 놀라운 점은 이런 변화 속에서도 OpenAI가 혁신의 동력을 잃지 않았다는 것입니다.

문화의 다양성과 통일성

각 팀마다 완전히 다른 문화가 형성되어 있다는 점도 흥미롭습니다. 연구팀은 이론적 탐구에 몰두하고, 응용팀은 실용적 구현에 집중하며, GTM팀은 시장 출시에 매진합니다. 이들은 서로 다른 시간축에서 움직이지만, 결국 하나의 목표를 향해 나아간다는 것이 OpenAI의 독특한 매력이라고 할 수 있습니다.

Slack 중심의 소통 문화: 모든 것이 투명하게

OpenAI에서 가장 독특한 점 중 하나는 모든 소통이 Slack을 통해 이루어진다는 것입니다. 이메일은 거의 사용되지 않으며, 중요한 의사결정부터 일상적인 업무까지 모든 것이 Slack 채널에서 논의됩니다.

이런 문화의 장점은 투명성입니다. 임원들도 적극적으로 Slack에 참여하며, 팀의 의사결정에 직접 영향을 미칩니다. Sam Altman을 비롯한 주요 리더들이 수시로 대화에 참여하는 모습은 다른 대기업에서는 상상하기 어려운 일이죠.

보안과 투명성의 균형

하지만 높은 외부 관심으로 인해 OpenAI는 매우 비밀스러운 조직이기도 합니다. 접근 권한이 세분화된 워크스페이스들이 존재하고, 재무 정보 같은 민감한 데이터는 극소수만 알 수 있습니다. 직원들도 자신이 무슨 일을 하는지 외부에 자세히 말할 수 없을 정도입니다.

실력주의와 실행 중심 문화

OpenAI의 핵심은 철저한 실력주의입니다. 좋은 아이디어를 내고 그것을 실행해낸 사람이 리더로 성장합니다. 프레젠테이션 스킬이나 정치적 감각보다는 실제 성과가 중요하죠.

바텀업 혁신의 힘

특히 연구 부문에서는 ‘바텀업’ 문화가 강하게 자리잡고 있습니다. 분기별 로드맵 같은 것은 존재하지 않으며, 연구원들이 흥미를 느끼는 주제를 자발적으로 탐구합니다. 이런 접근법이 ChatGPT 같은 혁신적 제품을 만들어낼 수 있었던 비결입니다.

연구원 한 명 한 명이 ‘작은 임원’처럼 행동한다는 Andrey의 말은 이런 문화를 잘 보여줍니다. 허락을 구하지 않고 자발적으로 프로젝트를 시작하고, 성과가 보이면 자연스럽게 팀이 형성되는 방식입니다.

Codex 개발: 7주 만의 기적

이 직원이 참여한 Codex 프로젝트는 OpenAI의 실행력을 보여주는 대표적 사례입니다. 첫 번째 코드를 작성한 후 제품 출시까지 단 7주밖에 걸리지 않았습니다.

극한의 속도전

Codex 개발 과정은 말 그대로 전쟁이었습니다. 팀원들은 밤 11시까지 일하고, 주말도 반납했습니다. 하지만 이런 희생이 가능했던 이유는 분명한 목표와 뛰어난 팀원들이 있었기 때문입니다.

출시 전날 밤, 5명의 엔지니어가 새벽 4시까지 시스템 배포에 매달렸고, 다음 날 아침 8시에 다시 모여 라이브 스트리밍을 준비했습니다. 이런 헌신이 63만 개의 PR 생성이라는 놀라운 성과로 이어졌습니다.

비동기 에이전트의 선택

Codex는 실시간 코딩 도구가 아닌 ‘비동기 에이전트’ 방식을 선택했습니다. 사용자가 작업을 요청하면 에이전트가 혼자 일을 처리하고 PR 형태로 결과를 돌려주는 구조입니다. 이는 다소 모험적인 선택이었지만, 대규모 코드베이스에서 강력한 성능을 보여주었습니다.

GPU 중심의 경제학

OpenAI에서 가장 흥미로운 점 중 하나는 GPU 비용이 모든 것을 압도한다는 것입니다. Codex의 작은 기능 하나가 사용하는 GPU 자원만으로도 Segment 같은 큰 회사의 전체 인프라와 비슷한 수준이라고 합니다.

이런 환경에서는 GPU 성능을 기준으로 모든 계획을 세워야 합니다. 단순히 처리 용량만 고려하는 것이 아니라, 사용자가 기대하는 응답 속도에서 거꾸로 계산해 필요한 자원을 산정하는 방식입니다.

AI 안전에 대한 진지한 접근

외부에서는 OpenAI의 안전 정책에 대해 다양한 의견이 있지만, 내부에서는 이를 매우 진지하게 다루고 있다고 합니다. 이론적 위험보다는 실질적 리스크에 더 집중하고 있으며, 혐오 발언, 악용 사례, 정치적 편향 등 현실적인 문제들을 해결하는 데 많은 인력을 투입하고 있습니다.

트위터와 연결된 회사

흥미롭게도 OpenAI는 트위터 반응에 매우 민감하게 반응한다고 합니다. OpenAI 관련 트윗이 바이럴되면 내부에서 반드시 누군가가 그 내용을 보고 논의합니다. 소비자 중심 회사로서 ‘분위기’라는 것도 중요한 지표가 되는 셈입니다.

미래를 향한 전망

이 직원은 AGI를 향한 경주에서 OpenAI, Anthropic, Google 세 회사가 각자의 DNA에 따라 서로 다른 길을 걷고 있다고 분석합니다. OpenAI는 소비자 중심, Anthropic은 기업 중심, Google은 인프라와 데이터 기반 접근을 하고 있다는 것입니다.

배운 교훈들

그가 OpenAI에서 얻은 핵심 교훈들은 다음과 같습니다:

• 소비자 브랜드의 힘: 진짜 소비자 브랜드가 어떤 것인지 체감
• 대규모 모델 훈련: 실험에서 엔지니어링으로 이어지는 스펙트럼 이해
• GPU 활용 감각: 사용자 기대치에서 거꾸로 계산하는 방법
• 대규모 Python 코드베이스: 수백 명이 동시에 기여해도 안정적으로 운영되는 노하우

혁신을 꿈꾸는 이들에게

이 직원의 경험담은 세계 최고 수준의 기술 회사가 어떻게 운영되는지를 보여주는 귀중한 증언입니다. 특히 빠른 실행력, 실력주의 문화, 그리고 명확한 목표 의식이 어떻게 혁신을 만들어내는지를 생생하게 보여줍니다.

혁신을 꿈꾸는 창업가나 기술자라면, OpenAI의 ‘실행 중심’ 문화와 ‘바텀업’ 혁신 방식에서 많은 영감을 얻을 수 있을 것입니다. 무엇보다 좋은 아이디어를 실제로 구현해내는 실행력이 얼마나 중요한지를 다시 한번 깨닫게 됩니다.