Vercel의 CTO인 Malte Ubl은 The Pragmatic Summit에서 코딩 에이전트의 발전과 Vercel의 내부 데이터 에이전트 d0, 그리고 공개 서비스 Vercel v0 구축 경험에 대한 통찰을 공유했습니다. 이 강연은 빠르게 변화하는 AI 시대에 맞춰 기업이 어떻게 적응하고 혁신을 이루어야 하는지에 대한 실제적인 교훈을 담고 있습니다. 특히, AI 에이전트가 소프트웨어 개발 및 운영 방식에 미치는 영향과 미래 조직의 변화 가능성에 대해 심도 깊게 다루고 있습니다.
1. Vercel 내부 데이터 에이전트 d0의 재구축 경험
Malte Ubl은 코딩 에이전트 분야가 계속해서 변화하고 있기 때문에, "겸손함"이 중요하다고 강조합니다. 2025년 여름에 모범 사례였던 것이 오늘날에는 별 의미가 없을 수 있다는 거죠. 웹사이트 구축처럼 30년 동안 확립된 방식과는 달리, 에이전트 분야는 이제 막 3년 차에 접어든 초기 단계이기 때문에 끊임없이 새로운 방식을 받아들일 준비가 되어 있어야 합니다.
Malte는 Vercel이 자체 기술로 제품을 구축하는 철학을 가지고 있으며, 에이전트 구축이 생각보다 쉽고 직접 만들 수 있다는 믿음을 가지고 있다고 설명했습니다. Vercel의 내부 데이터 에이전트인 d0는 텍스트-투-SQL 엔진으로, Slack에서 질문을 입력하면 Snowflake 데이터베이스에 접근하여 답변을 제공합니다. 그는 특히 영업 사원이 S&P 500 기업의 CTO나 엔지니어링 VP 중 개인 Vercel 계정을 가지고 크리스마스 기간에 배포한 사람을 찾는 질문을 했던 일화를 들려주며, 이런 복잡한 질문을 빠르게 해결해주는 d0의 유용성을 강조했습니다.
"이 사람들은 다음과 같은 질문을 했어요. 'S&P 500 기업의 CTO와 엔지니어링 VP 중에 개인 Vercel 계정을 가지고 크리스마스 기간에 배포한 사람은 누구인가요?'"
d0의 초기 버전은 "툴 인 더 루프(Tools in a Loop)" 방식의 전통적인 인프라를 사용했지만, 기대만큼 마법 같지 않았다고 합니다. 그래서 Vercel은 모든 것을 폐기하고 코딩 에이전트와 유사한 방식으로 전환했습니다. 이 새로운 아키텍처는 다음과 같은 특징을 가집니다.
- 데이터 설명: Snowflake의 모든 열에 대해 비즈니스 가치를 설명하는 YAML 파일을 만들었습니다.
- GPT 활용: 에이전트는 YAML 파일을 기반으로 비즈니스 의미를 파악하고 SQL 쿼리를 생성하도록 GPT 모델로 사전 학습되었습니다.
- 간소화된 툴: 에이전트는 오직 Bash 툴과 SQL 실행 툴 두 가지만 사용합니다.
- 놀라운 효율성: 코드는 단 50줄에 불과하지만, 비즈니스에 혁신적인 변화를 가져왔습니다.
Malte는 초기 시스템을 완전히 버리고 재구축한 이유에 대해, 모델이 점점 더 지능적으로 발전함에 따라 에이전트가 "우발적인 행동(Emergent Behavior)"에 전적으로 의존하는 것이 더 실현 가능해졌기 때문이라고 설명했습니다. 즉, 복잡한 프롬프트나 하드 코딩된 규칙을 많이 넣을 필요 없이, 모델 자체의 능력에 맡기는 방식으로 더욱 단순하게 구축할 수 있게 된 것입니다.
"모델이 점점 더 지능적으로 변하고 있기 때문에, 이제는 완전히 '우발적인 행동'에 의존하는 에이전트를 만드는 것이 더 실현 가능해졌어요. 복잡한 프롬프트나 많은 규칙을 하드 코딩할 필요 없이 더욱 단순해진 거죠."
2. 비즈니스 사용자의 앱 개발 시대와 Vercel v0의 진화
Malte는 Vercel v0가 2023년에 처음 출시될 당시의 비전을 설명했습니다. 초기 목표는 비엔지니어들도 애플리케이션을 만들고 프로토타이핑할 수 있도록 돕는 것이었습니다. 하지만 출시 후 예상과 다른 방향으로 발전했다고 말했습니다.
처음에는 프론트엔드 엔지니어를 위한 툴이라고 생각했지만, 실제로는 백엔드 엔지니어를 위한 툴이 되었다는 것을 깨달았습니다. 2023년 당시 GPT-3.5나 GPT-4 모델로는 비엔지니어가 사용하기에는 안정성이 부족했기 때문입니다. 백엔드 엔지니어들은 문제가 생겨도 직접 고칠 수 있었지만, 일반 사용자에게는 적합하지 않았습니다.
AI 분야에서는 겸손함이 중요하며, 세상이 변하면 제품도 변해야 한다는 철학을 가지고 있습니다. Anthropic이 Sonnet 3.5를 출시하면서 동일한 프롬프트로 풀스택 앱을 구축할 수 있게 된 것처럼, 모델의 발전은 Vercel v0의 방향을 크게 바꾸는 계기가 되었습니다. 이전에는 불가능했던 일들이 가능해지면서, Vercel은 제품을 조정하여 엔드-투-엔드 애플리케이션을 구축할 수 있도록 발전시켰고, 비엔지니어도 성공할 수 있을 만큼 성공률을 높였습니다. 🚀
Vercel v0의 개발 과정에서 중요한 "아하!" 순간들이 있었다고 합니다. 그중 하나는 2023년 여름, ChatGPT 출시와 LLM(대규모 언어 모델)이 막 보급되던 시기에 웹페이지를 만드는 실험을 할 때였습니다. 처음에는 만족스러운 결과를 얻기 어려웠지만, 한 엔지니어가 프롬프트에 "Tailwind를 사용하라"는 지시를 추가하면서 상황이 완전히 달라졌습니다.
"어느 순간 그가 손을 들고 '여러분, 제가 뭔가를 찾았어요!'라고 말했어요. 그는 프롬프트를 'Tailwind를 사용하라'고 바꿨을 뿐이었죠."
Tailwind는 CSS를 작성하는 방식인데, 당시 ChatGPT 3.5의 학습 데이터에 충분히 포함되어 있었고, 모델이 인라인 추론(Inline Reasoning)에 훨씬 능했기 때문입니다. CSS 파일과 HTML을 따로 작성하게 하는 것보다, 모든 것을 한곳에 넣으라고 지시했을 때 모델이 훨씬 좋은 결과를 내놓았습니다. 이 발견 덕분에 Vercel v0가 시장에서 성공할 수 있는 제품으로 발전할 수 있었습니다. ✨
또 다른 중요한 변화는 엔터프라이즈 활용 사례의 발견이었습니다. Vercel v0는 현재 기술에 익숙한 "기술 인접(Tech Adjacent)" 사용자들, 즉 PM, 디자이너, 제품 소유자, 비즈니스 담당자 등을 주요 고객으로 삼고 있습니다. 나아가, 기업 내 비즈니스 담당자들이 자체적으로 내부 앱을 만드는 "새로운 섀도우 IT(Shadow IT)" 현상에도 큰 관심을 가지고 있습니다.
말테는 Vercel이 여러 제품을 보유한 회사이지만, 핵심 사업은 고객이 개발한 소프트웨어를 운영하는 것이라고 설명했습니다. AI 모델이 발전하고 에이전트가 코드를 더 잘 생성하게 될수록, 생성된 코드를 안정적으로 실행할 수 있는 플랫폼의 중요성은 더욱 커진다고 보았습니다.
"결국 여러분은 코드를 실행할 장소가 필요할 거예요. Vercel은 여러분의 Git 저장소에 연결하여 푸시할 때마다 새로운 버전을 만들어 프로덕션에 배포할 수 있도록 합니다."
그는 2026년 현재 CTO로서, 모델의 발전으로 자신이 구축한 서비스가 무용지물이 될까 봐 크게 걱정하지 않는다고 밝혔습니다. 에이전트가 Terraform 코드를 잘 작성하여 인프라를 자동으로 구축할 수 있다고 해도, 전문적인 DevOps는 사람이 무엇이 문제인지 이해하고 개입할 수 있는 "플랫폼화"의 영역이 여전히 필요하다고 생각하기 때문입니다.
3. 안정성과 신속성: 개발 조직 및 아키텍처의 진화
Malte는 안정성과 신속성이 대립하는 개념이 아니라고 강조했습니다. Vercel은 고객이 빠르게 움직일 수 있도록 돕는 것이 비즈니스의 핵심이며, 스스로도 이를 활용한다고 설명했습니다. 그의 최우선 과제는 팀이 더 빠르게 움직일 수 있도록 돕는 것이며, 이를 위해 "내부 루프(Inner Loop)"(개발 속도)와 "외부 루프(Outer Loop)"(배포 속도)를 모두 개선하는 데 집중합니다.
물론 모든 것을 무조건 빠르게만 하는 것은 아닙니다. 예를 들어, Vercel의 서빙 시스템(Serving Systems)은 하루에 한 번만 배포하지만, 제어 플레인(Control Plane)은 코드가 메인 브랜치에 푸시될 때마다 배포됩니다. 이러한 절충안은 더 빠르게 기능을 배포하고 싶어도, 안정성을 위해 특정 부분에서는 신중하게 접근한다는 것을 보여줍니다.
Malte는 Cloudflare의 대규모 장애 사례를 언급하며, 대부분의 대규모 시스템 다운은 잘못된 설정 변경(Bad Config Change)이나 모든 서비스가 의존하는 비밀 관리 서비스(Secrets Management Service) 문제에서 발생한다고 설명했습니다. 이에 대한 Vercel의 해결책은 다음과 같습니다.
- 자율적인 리전: Vercel은 20개의 코어 리전을 운영하며, 서빙 스택에서 각 리전이 자율적(Autonomous)이도록 설계했습니다.
- 단계적 배포: 모든 리전을 동시에 변경하는 메커니즘이 없기 때문에, 설정 변경을 파도처럼 단계적으로(in Waves) 적용합니다.
- 위험 관리: 새로운 설정이나 기능(예: 기능 플래그)을 전 세계에 한 번에 배포하는 대신, 특정 리전에 먼저 적용하여 피드백을 얻고 문제가 발생하면 해당 리전을 로테이션에서 제외하여 전체 서비스에 미치는 영향을 최소화합니다.
"Vercel 아키텍처에서는 20개의 코어 리전을 운영하며, 서빙 스택에서 리전들이 '자율적'이도록 의도적으로 결정했어요. 한 번에 모든 것을 변경하는 메커니즘이 없어서, 설정 변경을 '파도처럼 단계적으로' 적용합니다."
Malte는 개발자들에게 무제한 토큰(Unlimited Tokens)을 제공한다고 밝혔습니다. 비록 한 엔지니어가 캐싱 시스템을 우회하는 커스텀 코딩 하네스를 만들어 비용이 10배나 많이 나왔던 사례도 있었지만, 전반적으로는 토큰 사용을 장려한다고 합니다. 🤑
그는 CTO로서 일주일에 두세 번 프로덕션 코드 변경을 진행하며, Vercel의 CEO 역시 매일 앱을 배포하고 있다고 덧붙였습니다.
4. 조직 진화: AI 시대의 역할 변화와 인력 운용
Malte는 에이전트 툴의 발전이 기술 조직의 미래를 어떻게 바꿀지에 대한 견해를 공유했습니다. 그는 이미 소프트웨어 개발자의 역할이 개별 기여자(IC)의 작업보다는 관리(Management)에 더 가깝게 변하고 있다고 진단했습니다.
- 최고 선임 IC: 가장 숙련된 IC들은 이미 유사한 관리 역할을 수행했기 때문에, 이제는 더 많은 "하수인"을 얻은 것과 같아 가장 큰 혜택을 받습니다.
- 가장 주니어 엔지니어: 젊은 엔지니어들은 TikTok 비디오를 만드는 것에 능숙하듯이 새로운 기술에 빠르게 적응하므로, 이들 또한 큰 혜택을 받습니다.
문제는 중간 수준의 엔지니어들이 새로운 역할에 적응하고 기술에 적극적으로 참여하는 방법을 배워야 한다는 점입니다. Vercel은 이러한 변화에 맞춰 인턴십 프로그램과 주니어 엔지니어 코호트에 적극적으로 투자하고 있습니다. 🧑💻
회사의 규모와 인력 운용에 대한 질문에 Malte는 흥미로운 가설을 제시했습니다. 현재 750명 규모인 Vercel은 인력 수를 1,024명으로 제한하는 것을 목표로 삼고 있다고 농담처럼 말했습니다. 이는 올해 채용 계획보다 낮은 숫자입니다. 그의 생각은 회사가 성장하더라도 더 많은 인력이 필요 없을 수도 있다는 것입니다.
Vercel은 이미 여러 분야에서 에이전트 기반의 자동화를 성공적으로 적용하고 있습니다.
- 영업 리드 자격 검증: 오픈 소스 에이전트를 통해 자동화했습니다.
- 지원 문의 처리: 현재까지 87%를 자동화했습니다.
지원 부서의 예시에서, 자동화 덕분에 지원 에이전트를 해고하는 대신, 그들은 단순하고 반복적인 문제 대신 더 어렵고 흥미로운 문제를 해결하는 데 집중할 수 있게 되었다고 설명했습니다. 이는 직원들의 직무 만족도를 높이는 긍정적인 변화로 이어졌습니다.
Malte는 이러한 변화가 궁극적으로 소프트웨어 시장의 "탄력성(Elasticity)"을 시험하는 과정이라고 보았습니다. 소프트웨어를 만드는 비용이 저렴해지면서 더 많은 소프트웨어가 생산되고 있으며, 이는 Vercel의 성장에도 긍정적인 영향을 미치고 있습니다.
"우리는 소프트웨어 만드는 비용을 더 저렴하게 만들고 있고, 이는 더 많은 소프트웨어로 이어진다는 것이 분명합니다."
궁극적인 질문은 이러한 균형점이 오늘날보다 더 많은 소프트웨어 엔지니어를 필요로 할지, 아니면 더 적게 필요로 할지였습니다. 그는 "공짜 강아지" 비유를 들며, 무료로 얻은 소프트웨어도 결국 유지보수해야 하는 부담이 따른다고 지적했습니다.
인터뷰어는 이를 YouTube 비유에 빗대어 설명했습니다. 2005-2006년 YouTube가 등장하기 전에는 TV 쇼나 영화 제작이 매우 비쌌지만, 이제는 누구나 영상을 만들 수 있게 되면서 영상 콘텐츠의 양이 폭발적으로 늘어났습니다. 결과적으로 20년 전보다 전문 영상 제작에 종사하는 사람들의 수는 훨씬 늘어났습니다.
Malte는 벤 톰슨(Ben Thompson)의 비유를 인용하며, 이러한 변화가 1960년대 메인프레임 도입 시기의 변화와 더 유사하다고 보았습니다. 당시에는 "컴퓨터"라 불리던 사람들이 일자리를 잃었지만, 장기적으로는 사회 전체의 부가 증진되었습니다. AI 시대의 변화도 일부 직업에는 고통을 줄 수 있지만, 궁극적으로 사회 전체에 긍정적인 영향을 미칠 것이라고 예측했습니다.
5. 결론
Malte Ubl은 AI 에이전트 시대에 소프트웨어 개발과 조직 운영이 겪을 변화에 대해 명확한 비전을 제시했습니다. 그의 가장 핵심적인 메시지는 "소프트웨어는 이제 공짜"라는 것입니다. 마치 무료로 얻은 강아지처럼, 공짜로 만들어진 소프트웨어는 결국 "유지보수"라는 숙제를 남깁니다. 그는 에이전트가 소프트웨어 유지보수와 프로덕션 환경에서의 자동화된 관리에 중요한 역할을 할 것이라고 강조했습니다. 이제는 엔지니어들이 몇 달 걸릴 일을 즉시 해낼 수 있는 시대가 되었으며, 이 새로운 가능성을 어떻게 활용할 것인지가 가장 큰 과제임을 시사했습니다.