소수의 AI 팀, 거대한 임팩트: Datalab의 성장 전략과 팀 빌딩 철학

도입: 작은 팀, 큰 성과의 비결

비카스 파루추리(Vikas Paruchuri)는 자신이 Datalab의 CEO임을 소개하며, 단 3명의 팀으로 40,000 GitHub 스타와 7자리 수 ARR(연간 반복 매출), 그리고 최첨단 AI 모델을 어떻게 만들어냈는지에 대해 이야기합니다. 그는 지난 1년간 여러 모델을 직접 훈련하고, 회사를 창업해 시드 투자를 유치했으며, 최근에야 첫 직원을 채용해 현재는 4인 팀이 되었다고 설명합니다.

"저는 지난 1년 동안 이 모델들을 훈련했고, 회사를 창업해 시드 투자를 받았습니다. 잠은 충분히 못 잤죠. 그게 중요하더라고요."

Datalab은 2023년 1월 첫 직원을 채용한 이후, 매출이 5배 성장했고, 고객으로는 최상위 AI 연구소, 대학, 포춘 500 기업, AI 스타트업 등이 있습니다. 이 발표의 핵심은 작은 팀으로 어떻게 빠르게 성장할 수 있었는지, 그리고 팀 빌딩에 대한 철학을 공유하는 것입니다.

인원수와 생산성의 오해

비카스는 실리콘밸리에서 흔히 통용되는 "사람을 많이 뽑으면 생산성이 올라간다"는 믿음에 의문을 제기합니다.

"실리콘밸리에는 돈을 모아 사람을 많이 뽑으면 더 많은 걸 만들 수 있다는 고정관념이 있습니다. 하지만 제 경험상 거의 그렇게 되지 않더라고요."

그는 이전 회사인 DataQuest에서 30명까지 팀을 키웠다가, 두 번의 구조조정을 거쳐 7명까지 줄였던 경험을 공유합니다. 놀랍게도, 구조조정 후 오히려 생산성과 행복도가 증가했다는 점을 강조합니다.

"팀을 줄인 후 몇 달이 지나자, 오히려 훨씬 더 생산적이었어요. 왜 그럴까 고민하게 됐죠."

이 현상에 대해 그는 네 가지 가설을 제시합니다.

• 전문가 과다 채용: 규모가 커질수록 각자 역할이 너무 세분화되어, 회사의 핵심 문제를 유연하게 해결하지 못함
• 원격 근무의 한계: 의도적인 프로세스와 동기화가 필요해 시간이 많이 소모됨
• 회의 과다: 중간 관리자가 늘어나면서 회의가 많아지고, 실제 일할 시간이 줄어듦
• 시니어 인력의 비효율: 시니어가 주니어를 관리하느라 본연의 역량을 발휘하지 못함

황금기와 조직의 성장 곡선

비카스는 대부분의 회사가 겪는 '황금기'에 대해 설명합니다. 이 시기는 모두가 한 방향을 바라보며 핵심 제품을 만드는 시기입니다. 하지만 이후에는 조직이 커지면서 각종 부서와 역할이 생기고, 관료주의와 우선순위 혼란이 발생한다고 지적합니다.

"구글이 검색을, 마이크로소프트가 윈도우를 만들던 그 시기가 바로 황금기죠. 이후에는 조직이 커지면서 작은 박스에 갇히게 됩니다."

그는 '이 황금기가 왜 끝나야만 할까?'라는 질문을 던지며, Answer AI의 Jeremy Howard와 함께 일하며 얻은 인사이트를 공유합니다.

• 15명 미만의 제너럴리스트(다방면에 능한 인재)로 팀 구성
• AI와 내부 툴로 부족한 부분을 보완
• 복잡하지 않은, 단순하고 검증된 기술 사용

"15명 미만의 제너럴리스트로 팀을 꾸리고, 나머지는 AI와 내부 툴로 채우는 게 핵심입니다."

이 방식은 높은 신뢰와 고객 중심의 문화가 필수적이며, 모든 구성원이 고객과 직접 소통하고, 실제로 제품을 만드는 데 참여해야 한다고 강조합니다.

실제 사례: 소수 인원이 만든 최첨단 모델

비카스는 최근 출시한 Syria OCR 3 모델 개발 사례를 소개합니다. 이 모델은 5억 개 파라미터, 90개 언어 지원, 99% 정확도를 자랑하며, 기존 모델에 없는 기능도 포함하고 있습니다.

"이 모델은 90개 언어를 지원하고, 내부 벤치마크에서 99% 정확도를 기록했습니다. 수학 문제도 포함되어 있죠."

이 프로젝트는 단 두 명이 고객 요구 파악 → 논문 조사 → 아키텍처 설계 → 데이터 파이프라인 구축 → 모델 훈련 → 추론 코드 작성 → 제품 통합까지 모든 과정을 직접 담당했습니다.

• 대기업이라면 여러 팀이 나눠서 할 일을, 소수 인원이 처음부터 끝까지 담당
• 팀 간 전달 과정에서 발생하는 정보 손실과 비효율을 최소화
• 빠른 피드백 루프와 긴밀한 통합 가능

"일반적인 회사라면 여러 팀이 나눠서 할 일을, 우리는 두 명이 처음부터 끝까지 했습니다. 그래서 훨씬 빠르고 효율적이었죠."

소수 정예 팀의 운영 원칙

비카스는 '사람이 많다고 생산성이 오르지 않는다'는 점을 다시 한 번 강조하며, 실제로 이 모델을 어떻게 운영하는지 구체적으로 설명합니다.

1. 시니어 제너럴리스트 채용

• 연차가 아니라 문제 해결에 대한 성숙도와 책임감이 중요
• 고객과 직접 소통하며, 끝까지 문제를 해결하려는 태도

"시니어란 경력이 아니라, 문제를 보고 '내가 이걸 해결하겠다'는 태도와 성숙도를 의미합니다."

2. 불필요한 복잡성 배제

• 최신 기술에 집착하지 않고, 가장 단순한 방법을 선택
• 예: 복잡한 클러스터 대신, 단일 머신과 쉘 스크립트 활용

"복잡한 쿠버네티스 클러스터 대신, 그냥 쉘 스크립트로 한 대에서 돌리는 게 더 나을 때가 많아요."

3. 대면 협업 선호

• 빠른 피드백과 협업을 위해 오프라인 근무를 선호
• 원격 근무는 프로세스가 많아져 속도가 느려질 수 있음

4. 아키텍처의 단순화와 재사용

• 컴포넌트 재사용을 극대화해 유지보수와 확장 용이
• 서버 렌더링 HTML, HTMX, Alpine 등 가벼운 프론트엔드 사용
• 모듈화된 코드로 AI가 쉽게 기여할 수 있도록 설계

"우리는 리액트 같은 복잡한 프레임워크를 쓰지 않고, 서버 렌더링 HTML과 가벼운 라이브러리만 씁니다."

5. 프로세스 최소화, 신뢰 기반 문화

• 불필요한 관리와 관료주의 배제
• 스스로 움직일 수 있는 인재만 채용

"누군가를 많이 관리해야 할 것 같으면, 그냥 채용하지 않습니다."

AI로 채우는 조직의 '모서리'

Datalab은 문서 처리 AI 회사로, 고객마다 요구하는 문서 파싱 방식이 다릅니다. 과거에는 현장 엔지니어를 파견해 맞춤형 개발을 했지만, 이제는 AI 모델이 이 역할을 대체할 수 있다고 봅니다.

• 모델이 고객의 다양한 요구를 반복적으로 학습해 최적화
• 현장 인력 대신 AI로 복잡성을 해결

"이제는 AI 모델이 고객의 다양한 요구를 반복적으로 학습해 최적화할 수 있습니다. 현장 인력 대신 AI로 복잡성을 해결하는 거죠."

이 모델이 언제 한계에 부딪힐지는 아직 모르지만, '성장 과정에서 무엇을 선택할지'가 중요하다고 강조합니다.

"이 모델이 영원히 통할지는 모르겠지만, 결국 선택의 문제입니다. 더 많은 사람을 뽑을 수도, 더 효율적인 방법을 택할 수도 있죠."

역할 구조와 문화

Datalab의 역할 구조는 연구 엔지니어, 풀스택 엔지니어, Go-to-market(영업/마케팅/지원 통합) 세 가지로 나뉘지만, 모두가 고객과 소통하고, 제품 개발에 참여합니다.

• 정치와 이기심 배제, 오직 일과 동료, 고객에 집중
• 시장 최고 수준의 연봉 지급
• 스스로 동기부여가 되는 인재만 선호
• 낮은 자아와 실행력(GSD, Get Shit Done) 중시

"정치는 소수 팀의 죽음입니다. 우리는 오직 일, 동료, 고객만 생각하는 사람을 원합니다."

채용 시에는 빠른 충원보다 최고의 인재를 기다리는 인내심이 중요하다고 강조합니다.

"제가 했던 최악의 채용은 급하게 사람을 뽑았을 때였고, 최고의 채용은 '이 사람이다' 싶을 때까지 기다렸을 때였습니다."

생산성의 확장: 인원수 대신 효율

회사가 성장할수록 생산성을 인원수로 확장하는 대신, 다음과 같은 방법을 제안합니다.

1. 연봉 밴드 상향: 더 경험 많은 인재를 같은 역할에 채용
2. 컴퓨팅 자원 투자: 더 많은 GPU 등 리소스 제공
3. AI 툴 활용: 생산성을 극대화하는 다양한 도구 적극 도입

"한 명의 연구원이 8개의 GPU를 쓰는 것보다, 64개를 쓰는 게 훨씬 더 생산적입니다."

Q&A: 실제 경험과 채용 프로세스

질의응답에서는 구조조정 후 제품의 본질은 유지하되, 덜 중요한 기능은 과감히 정리했다고 답합니다.

"사람이 많아지면 할 일이 부족해지고, 쓸데없는 기능을 만들게 됩니다. 소수 팀이 되면 정말 중요한 일에만 집중하게 되죠."

대기업 문화 혁신에 대한 질문에는, "그런 조직은 바꾸기 어렵다. 차라리 작은 회사를 새로 만들어 더 잘하는 게 낫다"고 솔직하게 답합니다.

"문화가 굳어버린 조직은 바꾸기 힘듭니다. 차라리 작은 회사를 새로 만들어 더 잘하는 게 낫죠."

채용은 오픈소스와 트위터 등 공개적인 활동을 통해 좋은 인재를 찾는다고 하며, 채용 과정은 다음과 같습니다.

1. 간단한 대화: 실제 동료처럼 문제를 함께 논의
2. 유급 프로젝트: 10시간, 1,000달러 지급, 실제 협업 경험
3. 컬처핏 인터뷰: 팀과의 궁합 확인

"유급 프로젝트는 실제로 함께 일해보는 게 가장 좋은 방법입니다. 1,000달러는 적은 돈이지만, 적합한 인재를 찾는 데 큰 도움이 되죠."

최종적으로, 면접을 시작한 지원자 중 약 40%를 채용했다고 밝힙니다.

마무리: 작은 팀, 큰 임팩트의 미래

비카스는 "더 많은 사람이 곧 더 많은 생산성을 의미하지 않는다"는 메시지를 다시 한 번 강조하며, 작은 팀이 빠르고 효율적으로 움직일 수 있는 문화를 만들고 싶다면 언제든 연락해 달라고 마무리합니다.

"이런 문화가 흥미롭다면 언제든 연락 주세요. 함께 이야기 나누고 싶습니다."

핵심 키워드:

• 소수 정예 팀
• 제너럴리스트
• AI와 내부 툴 활용
• 단순한 기술, 모듈화
• 고객 중심, 신뢰 기반 문화
• 생산성의 확장(인원수 대신 효율)
• 실행력(GSD), 낮은 자아
• 유급 프로젝트 기반 채용

이처럼 Datalab은 작은 팀이지만, 효율성과 실행력, 그리고 AI의 힘을 극대화해 거대한 임팩트를 만들어내고 있습니다. 🚀