소프트웨어 개발에 AI 도구를 도입했음에도 불구하고 많은 기업들이 기대만큼의 성과를 거두지 못하고 있는데, 이는 기존의 Agile(애자일) 방식과 운영 모델을 그대로 유지한 채 도구만 추가했기 때문입니다. 맥킨지(McKinsey)는 AI 시대에 맞춰 팀 구성을 10명 단위에서 3~5명의 소규모 'One-pizza pod'으로 줄이고, AI 네이티브 워크플로우와 역할을 새롭게 정의해야 비약적인 생산성 향상이 가능하다고 강조합니다. 결국 성공적인 AI 도입은 단순한 기술 적용이 아니라, 인력 운영과 조직 문화를 근본적으로 변화시키는 사람 중심의 혁신과 체계적인 성과 측정이 필수적입니다.


1. AI 도입의 현실과 병목 현상: 왜 생산성은 제자리일까? 📉

안녕하세요! 오늘 우리는 맥킨지(McKinsey)의 Software X 조직에서 소프트웨어 개발의 미래에 대해 이야기해 보려 합니다. 지난 수십 년을 돌아보면, 기술의 대전환기마다 소프트웨어 개발 방식에도 큰 변화가 있었습니다. 약 20년 전 우리가 Agile(애자일) 방식으로 전환하며 칸반 보드와 스탠드업 미팅을 도입했던 것처럼, 지금의 AI 혁명 또한 또 다른 거대한 패러다임 전환을 예고하고 있습니다.

현재 2025년 시점에서 많은 개발자들은 AI 에이전트를 활용해 며칠이 걸리던 작업을 단 몇 분 만에 해결하고 있습니다. 개별적인 생산성 도구들은 분명 놀라운 효과를 보여주고 있죠. 하지만 아이러니하게도 기업 차원에서 보면 그 효과가 기대에 미치지 못하는 경우가 많습니다.

"저희가 약 300개의 기업을 대상으로 설문조사를 실시했습니다. AI를 도입한 기업들이 평균적으로 어느 정도의 개선 효과를 보고 있는지 물었을 때, 대부분은 전사적으로 5%, 10%, 15% 정도의 개선만 보고 있다고 답했습니다. AI가 가진 거대한 잠재력과 실제 현실 사이에는 분명한 괴리가 존재하는 것이죠."

왜 이런 격차가 발생할까요? 문제는 우리가 AI라는 새로운 엔진을 달았지만, 일하는 방식은 여전히 과거에 머물러 있기 때문입니다. 코드를 생성하는 속도는 엄청나게 빨라졌는데, 사람 간의 협업 방식이나 리뷰 절차는 그 속도를 따라가지 못하고 있습니다.

"우리는 훨씬 더 많은 코드를 생성하기 시작했지만, 여전히 많은 기업에서 상당히 수동적인 방식으로 코드를 리뷰하고 있습니다. (...) 이로 인해 AI로 자동화된 부분은 늘었지만, 오히려 수동 리뷰와 같은 새로운 병목 현상이 발생하고 있는 셈입니다."


2. 상위 1% 기업의 비밀: AI 네이티브로의 전환 🚀

맥킨지의 조사 결과, 압도적인 성과를 내는 상위 기업들은 단순히 도구만 도입한 것이 아니었습니다. 그들은 소프트웨어 개발 수명 주기(PDLC) 전체를 재설계(Rewiring) 했습니다. 이들은 일반 기업보다 AI 네이티브 워크플로우를 갖출 확률이 7배, AI 네이티브 역할을 정의할 확률이 6배나 높았습니다.

그렇다면 구체적으로 무엇이 다를까요?

먼저, 작업의 성격에 따라 운영 모델을 유연하게 가져갑니다. 예를 들어, 레거시 코드를 현대화하는 작업은 '에이전트 공장(Factory of agents)' 모델을 사용합니다. 명확한 산출물이 정의되어 있기 때문에 인간의 개입을 최소화하는 것이죠. 반면, 새로운 기능을 개발하는 프로젝트는 '반복적 루프(Iterative loop)' 모델을 통해 에이전트와 사람이 공동 창작자로서 끊임없이 피드백을 주고받습니다.

또한, 기획과 역할에서도 큰 변화가 일어납니다.

"AI 네이티브 워크플로우를 가진 기업들은 분기별 계획에서 지속적 계획(Continuous planning)으로 이동하고 있습니다. 또한 업무의 단위가 '스토리(Story)' 중심에서 '스펙(Spec)' 중심 개발로 바뀌고 있습니다. 프로덕트 매니저(PM)들은 긴 PRD(제품 요구 사항 정의서)를 작성하는 대신, 에이전트와 함께 스펙을 반복적으로 다듬어 나갑니다."

🍕 Two-pizza 팀에서 One-pizza 파드로

가장 눈에 띄는 변화는 팀의 규모입니다. 아마존의 제프 베조스가 말했던 '피자 두 판으로 식사가 가능한 팀(Two-pizza team, 약 8~10명)'조차 이제는 너무 큽니다.

"인재 측면에서 AI 네이티브 역할이란, 기존의 피자 두 판 규모의 팀 구조에서 벗어나 3~5명으로 구성된 '피자 한 판(One-pizza)' 규모의 파드(Pod)로 이동하는 것을 의미합니다. 별도의 QA, 프론트엔드, 백엔드 엔지니어를 두는 대신, 전체 아키텍처를 이해하고 에이전트를 지휘할 수 있는 '프로덕트 빌더(Product builder)'들이 통합된 역할을 수행하게 됩니다."


3. 실제 적용 사례: 은행과 스타트업의 변화 🏦

대기업에서도 이런 변화가 가능할까요? 최근 한 글로벌 주요 은행과의 프로젝트 사례를 보면 가능성을 확인할 수 있습니다. 이 은행은 기존 Agile 세레머니의 순서를 바꾸고, 사람과 에이전트의 역할을 재정의하는 실험을 진행했습니다.

주요 변화 포인트는 다음과 같습니다:

  1. 데이터 기반 업무 배정: 팀 리더가 팀의 속도와 배포 이력 데이터를 바탕으로 에이전트를 활용해 스프린트 스토리를 할당했습니다.
  2. 프로토타입 공동 생성: 개발 착수 전에 에이전트와 함께 보안 및 관찰 가능성(Observability) 기준을 포함한 여러 프로토타입을 미리 만들어, 하류 공정에서의 재작업을 방지했습니다.
  3. 워크플로우별 조직 개편: 간단한 버그 수정팀과 신규 개발팀을 나누고, 배경에서는 에이전트가 코드 저장소 간의 영향도를 분석해 디버깅 시간을 줄였습니다.

"이러한 개입의 결과는 매우 놀라웠습니다. 에이전트 사용량이 60배 이상 증가했을 뿐만 아니라, 비즈니스 우선순위와 직결된 배포 속도도 빨라졌습니다. 코드 병합(Code merge)은 51%나 증가했고, 전반적인 효율성도 크게 향상되었습니다."

또한, 엔지니어는 단순 코딩(Execution)에서 벗어나 에이전트에게 작업을 분배하는 오케스트레이터(Orchestrator)로 변모했고, PM은 개발자를 기다리지 않고 직접 코드로 프로토타입을 만들거나 실시간 고객 피드백을 반영해 백로그를 수정했습니다.


4. 조직 전체로의 확장: 변화 관리의 핵심 🧩

팀 하나를 바꾸는 것과 수천 명의 조직을 바꾸는 것은 차원이 다른 문제입니다. 단순히 "새로운 툴을 쓰세요"라고 공지하는 것만으로는 실패하기 십상입니다. 실제로 초기에 AI 도구를 배포했지만, 사용률이 반짝했다가 다시 예전 방식으로 돌아가버린 실패 사례도 있었습니다.

성공적인 확장을 위해서는 변화 관리(Change Management)가 필수적입니다.

"저는 보통 변화 관리란 '수많은 사소한 것들을 올바르게 해내는 것'이라고 말합니다. 이를 확장하는 문제의 핵심은 소통 방식, 보상 체계, 업스킬링(Upskilling) 등 20~30가지의 요소들이 동시에 올바르게 맞물려 돌아가게 하는 데 있습니다."

성공적인 기업들은 다음과 같은 조치를 취했습니다:

  • 핸즈온(Hands-on) 교육: 단순히 보는 교육이 아니라, '내 코드'를 직접 가져와서 실습하는 코드 랩(Code labs) 운영.
  • 인증 제도: 새로운 방식에 대한 숙련도를 증명하는 인증 시스템을 통해 동기 부여.
  • 초기 집중 지원: 습관이 형성되기 전인 처음 몇 번의 스프린트 동안 코치들이 밀착 지원.

5. 무엇을 측정할 것인가? 📊

마지막으로 중요한 것은 측정입니다. 하위권 기업들은 속도조차 측정하지 않거나, 기껏해야 10% 정도만 생산성을 측정하고 있었습니다. 하지만 성과를 내려면 단순한 '도구 채택률'을 넘어선 포괄적인 측정 시스템이 필요합니다.

맥킨지는 투입(Inputs) → 산출(Outputs) → 경제적 성과(Economic Outcomes)로 이어지는 체계적인 측정을 제안합니다.

  • 투입: 도구 비용뿐만 아니라 교육 및 변화 관리에 들이는 시간과 자원.
  • 산출: 속도와 용량 증가뿐만 아니라, 개발자의 만족도(NPS)와 코드의 보안성 및 회복탄력성(Resiliency).
  • 경제적 성과: 매출 목표 달성 시간 단축, 고품질 기능에 대한 가격 차별화, 인건비 절감 등.

"많은 조직들이 단순히 AI 도구의 채택이 늘어나면 속도가 빨라질 것이라고만 생각합니다. 하지만 개발자들이 업무를 더 즐기고 있는지(NPS), 혹은 좌절감을 느끼고 있는지를 이해하는 것도 중요합니다. 또한 코드가 더 안전해졌는지, 버그 해결 시간(MTTR)이 단축되어 회복탄력성이 좋아졌는지도 반드시 확인해야 합니다."


결론: 지금 바로 시작하세요

미래를 완벽하게 예측할 수는 없지만, 향후 5년 내에 소프트웨어 개발 모델은 '더 짧은 스프린트, 더 작은 팀, 그러나 훨씬 더 많은 팀'의 형태로 나아갈 것입니다. 기술이 발전하고 에이전트가 더 똑똑해지더라도, 인간이 주도하는 이 새로운 협업 모델의 중요성은 변하지 않을 것입니다.

이것은 단순한 기술 도입이 아니라 거대한 인간적인 변화(Human change)입니다. 시간이 걸리는 여정이 될 것이므로, 지금 당장 시작해야 합니다.

"핵심은 이것입니다. 지금 시작하세요. 우리 고객들에게 늘 말씀드리지만, 이것은 사람이 바뀌어야 하는 문제입니다. 시간이 걸리고 큰 변화가 필요한 여정입니다. 여러분의 조직에 맞는 모델을 찾고, 대담한 야망을 설정하십시오."

함께 읽으면 좋은 글

함께 읽으면 좋은 글

Harvest엔지니어링 리더십한국어

스타트업의 다음 시대정신을 찾아서: Beyond Product 요약

이 글은 AI 시대에 ‘좋은 제품’만으로는 경쟁우위를 지키기 어려워진 현실에서, 스타트업이 만들어야 할 다음 해자(방어력)가 무엇인지 추적합니다. 저자는 이를 제품 너머(Beyond Product)—즉 고객에게 도달하는 방식, 고객을 이해하는 깊이, 이를 조직 시스템으로 축적하는 능력—의...

2026년 3월 17일더 읽기
Harvest엔지니어링 리더십 · AI한국어

Software 3.0 시대, 조직의 생산성을 끌어올리는 AI 하네스 구축하기

이 글은 개발팀 내에서 개인의 역량에 크게 의존하고 있는 AI(LLM) 활용 방식을 조직 전체의 체계적인 시스템으로 발전시켜야 한다는 핵심적인 메시지를 담고 있습니다. 특히 Claude Code의 플러그인과 마켓플레이스 생태계를 단순한 확장 도구가 아닌, 팀의 업무 방식과 지식을 코드로 만...

2026년 3월 8일더 읽기
Harvest창업 · 엔지니어링 리더십한국어

Anthropic의 집단지성

이 글은 Anthropic(앤스로픽)이라는 회사가 어떻게 운영되고 있는지, 그리고 그들이 만들어나가고 있는 미래의 소프트웨어 개발 방식에 대한 저자의 개인적인 생각과 통찰을 담고 있습니다. 저자는 Anthropic이 다른 회사들과는 다르게 '집단지성(Hive Mind)' 방식으로 운영되며,...

2026년 2월 8일더 읽기