이 영상은 기존의 계층적인 회사 구조를 벗어나 AI를 활용하여 스스로 발전하는 자가 개선 기업(Self-Improving Company)을 만드는 방법에 대해 설명합니다. 인공지능이 단순히 생산성을 높이는 도구를 넘어, 기업의 핵심 운영 방식 자체를 혁신할 수 있음을 강조하며, 데이터를 AI가 이해할 수 있도록 기록하고, 이를 통해 반복적인 학습 루프를 구축하는 것이 중요하다고 이야기합니다. 이를 통해 기업은 인력 대신 토큰(AI 사용량)을 활용하고, 인간은 보다 고차원적이고 윤리적인 판단에 집중하는 미래를 제시합니다.

1. 기존 회사 구조의 한계: 로마 군단 ⚔️

영상은 현재 대부분의 회사가 로마 군단처럼 조직되어 있다고 설명하며 시작해요. 로마 군단은 계층적인 구조를 통해 효율적으로 명령을 전달하고 정보를 수집했는데, 현대 기업도 이와 유사하게 인간이 정보 흐름의 전달자 역할을 하고 있죠.

"로마 군단은 스코틀랜드 하드리아누스 장벽의 사람들에게 로마 중심부에서 두 대륙에 걸쳐 권력을 투사하도록 설계되었습니다. 그리고 그 아이디어는 일관된 통제 범위를 가진 중첩된 계층 구조였고, 명령을 전달하고 계층 구조를 따라 정보를 다시 보낼 수 있는 통제 범위를 가진 지정된 개인이 있었습니다."

하지만 잭 도시(Jack Dorsey)의 트윗을 인용하며, 이러한 계층적 조직이 경제적 가치를 창출하는 유일한 방법이라는 근본적인 가정이 AI의 등장으로 깨졌다고 주장합니다. 과거에는 AI가 단순히 '코파일럿'처럼 생산성을 20% 높이는 보조 도구로 여겨졌지만, 이는 AI를 바라보는 잘못된 관점이라고 지적해요.

"잭 도시의 트윗은 정말 훌륭하다고 생각했는데, 계층적으로 조직된 회사가 우리의 경제적 가치 단위를 조직하는 방식이라는 근본적인 가정을 AI가 기본적으로 깨뜨린다는 것입니다."

2. AI 시대의 새로운 기업 모델: 자가 개선 AI 루프 🔄

이 영상의 핵심 아이디어는 AI를 회사의 운영 방식에 볼트처럼 붙이는 것이 아니라, 회사의 본질 자체를 새로운 방식으로 재구상하는 데 있습니다. 즉, AI를 통해 회사를 "재귀적인 자가 개선 AI 루프"의 집합으로 만들어야 한다는 것이죠.

"AI는 어떤 회사의 옆에 볼트로 고정하는 것이 아닙니다. 엔지니어들에게 생산성을 높이기 위해 제공하는 도구도 아닙니다. 저는 회사가 재귀적인 자가 개선 AI 루프의 집합이라고 재구상할 수 있다고 생각합니다."

이는 AI가 잠자는 동안에도 회사가 스스로 발전할 수 있게 만드는 혁신적인 개념이에요. 이 루프는 다음 다섯 가지 핵심 요소로 구성됩니다.

• 센서 계층 (Sensor Layer): 고객 이메일, 지원 티켓, 코드 변경, 구독 취소, 제품 원격 측정 등 외부 세계에서 정보를 수집하는 역할을 합니다. 📡
• 정책 계층 (Policy Layer): AI가 무엇을 할 수 있고, 인간의 허락을 받아야 하는 것은 무엇이며, 무엇을 기록해야 하는지에 대한 규칙을 정의합니다. 📜
• 도구 계층 (Tool Layer): 데이터베이스 쿼리, 캘린더 확인 등 AI가 호출할 수 있는 결정론적 API와 같은 도구들로 이루어져 있습니다. 🛠️
• 품질 게이트 (Quality Gate): AI의 결정이 적절한지 검증하는 단계로, 평가 필터, 안전 필터, 고위험 작업에 대한 인간 검토 등이 포함될 수 있습니다. 🧐
• 학습 메커니즘 (Learning Mechanism): 시스템이 실제 세계와 상호 작용하며 오류를 발견하고 개선하여 루프의 처음으로 다시 돌아가 학습하는 과정입니다. 🧠

이 모든 단계가 인간의 개입 없이 또는 최소한의 개입으로 실행될 수 있다면, 시스템은 잠자는 동안에도 계속해서 발전하고 개선될 수 있다고 강조합니다.

3. YC의 경험으로 본 AI의 '아하' 모먼트 ✨

발표자는 YC(Y Combinator)의 경험을 예시로 들어, 이 자가 개선 AI 루프의 놀라운 효과를 설명합니다. 처음에는 데이터베이스 쿼리나 관련 창업자 추천과 같은 단순한 작업을 수행하는 AI 에이전트를 사용했어요. 이는 이전의 '코파일럿' 개념처럼 생산성을 20~30% 높이는 정도였죠.

하지만 진정한 '아하' 모먼트는 모든 YC 직원의 쿼리를 모니터링하는 에이전트를 도입했을 때 찾아왔다고 해요.

"저에게 '아하' 모먼트가 찾아온 것은 우리가 그 위에 모니터링 에이전트를 두었을 때였습니다. 이 에이전트는 모든 YC 직원이 수행하는 모든 쿼리를 살펴보고, 언제 작동하고 언제 작동하지 않는지 확인했습니다. 그리고 작동하지 않을 때, '아, 왜 안 됐지? 이 쿼리를 작동하게 하려면 무엇이 필요할까? 다른 결정론적인 도구가 필요할까? 스킬 파일을 업데이트해야 할까? 새로운 데이터베이스 뷰가 필요할까? 새로운 인덱스가 필요할까?'라고 생각했습니다."

이 모니터링 에이전트는 쿼리가 실패할 때마다 원인을 분석하고 필요한 변경 사항(코드 작성, 병합 요청, 검토, 배포)을 자동으로 수행했습니다. 즉, 밤새도록 시스템이 스스로를 개선하여 다음 날에는 동일한 쿼리가 성공하도록 만들었죠.

"그리고 이것은 말 그대로 밤새 일어납니다. 코드를 작성하고, YC 코드베이스에 병합 요청을 넣고, 에이전트가 이를 검토하고, 병합하고, 배포합니다. 그래서 다음날 사람이 동일한 쿼리를 하러 오면 이제 성공할 것입니다. 저에게는 그것이 '젠장'하는 순간이었습니다."

이는 단순히 AI가 인간을 돕는 것을 넘어, AI 스스로가 문제를 찾아내고 해결하며 발전하는 능력을 보여주는 충격적인 사례입니다. 이렇듯 자가 개선 루프를 통해 회사는 제품 분석, 고객 지원 등 다양한 영역에서 스스로 최적화될 수 있다고 강조합니다.

4. 자가 개선 기업 구축의 실제적인 함의 💡

자가 개선 기업을 구축하기 위한 몇 가지 중요한 함의가 있습니다.

4.1. 인력 대신 토큰에 집중 (Burn Tokens, Not Headcount) 💰

AI를 적극적으로 활용하는 기업들은 직원 1인당 매출이 5배나 증가하는 추세라고 합니다. 이는 미래에 기업의 성장이 인력(Headcount)이 아닌 AI 사용량(Token Usage)에 의해 제약될 것임을 시사해요.

"우리는 기업들이 18개월 전보다 직원 1인당 5배 더 많은 매출을 가지고 데모데이에 오는 것을 보고 있습니다. 그리고 저는 이것이 시리즈 A와 시리즈 B까지 계속될 것이라고 생각합니다. 따라서 여러분은 인력보다는 토큰 사용량에 의해 제약을 받게 될 것입니다."

지금은 모두가 AI를 최대한 실험하며 가능성을 탐색해야 할 시기입니다. 🤖

4.2. 중간 관리자의 역할 변화 (Middle Management Is Over) 📉

AI가 복잡한 조율 문제를 해결할 수 있게 되면서, 중간 관리자의 필요성이 사라질 것으로 예상됩니다. 미래의 회사에서는 모든 직원이 개별 기여자(Individual Contributor, IC)이자 빌더(Builder), 오퍼레이터(Operator)가 되어야 하며, 모든 업무에는 직접적으로 책임지는 한 명의 개인이 있어야 한다고 강조합니다.

"중간 관리자는 끝났다고 생각합니다. 저는 이 조율 문제에 중간 관리자가 필요하다고 생각하지 않습니다. AI가 그것을 해야 한다고 생각합니다. 그리고 저에게는 두 가지 역할이 정말 중요합니다. 저는 이제 모든 사람이 IC, 빌더, 오퍼레이터가 되어야 한다고 생각합니다."

4.3. 모든 것을 AI가 이해할 수 있도록 기록하기 (Make Everything Legible to AI) 📝

가장 중요한 첫 단계는 모든 조직의 정보를 AI가 이해할 수 있도록 기록하는 것입니다. 이메일, 슬랙 메시지, DM, 회의 내용 등 회사에서 발생하는 모든 상호작용은 AI의 데이터베이스에 저장되어야 합니다.

"첫째, 이것은 정말 정말 중요합니다. 전체 조직을 AI가 읽을 수 있도록 만들어야 합니다. 그게 무슨 뜻일까요? 모든 것을 기록해야 한다는 뜻입니다."

발표자는 자신이 나눈 중요한 대화들이 기록되지 않아 후회했던 경험을 공유하며, 모든 것이 AI에게 학습될 수 있도록 오디오, 비디오 등으로 기록되어야 한다고 주장합니다. 이렇게 기록된 방대한 데이터는 요약 및 분류 과정을 거쳐 AI가 활용할 수 있는 "지름길"을 제공합니다.

"모든 것이 기록되어야 AI가 읽을 수 있게 됩니다. 그리고 Gary가 말한 것처럼, 10만 시간 분량의 녹음본을 컨텍스트 창에 넣을 수는 없습니다. 그래서 그것을 요약해야 합니다. 기본적으로 중요한 부분으로 요약하고 합성한 다음, AI에게 빵 부스러기를 주어야 합니다."

YC는 이 원칙을 적용하여 5~10년 된 사용자 매뉴얼을 AI로 재생성했습니다. 2,000시간 분량의 기록된 오피스 아워 데이터를 학습시켜, 몇 시간 만에 150페이지 분량의 새 매뉴얼을 만들었으며, 이는 매달 업데이트되어 스스로 개선되는 살아있는 지식 창고가 되었다고 해요.

"그래서 Haj는 지난 주말에 이제 지난 3개월 동안 2,000시간 분량의 기록된 오피스 아워가 있으니 사용자 매뉴얼을 재생성하면 어떨까 생각했습니다. 그리고 주말이 끝날 무렵, 그는 기존 사용자 매뉴얼보다 훨씬 나은 150페이지 분량의 사용자 매뉴얼을 가지고 있었습니다. 그리고 이제 매달 업데이트할 수도 있습니다."

4.4. 소프트웨어는 일시적, 맥락은 영구적 (Software Is Ephemeral, Context Is Valuable) ⏳

이러한 변화 속에서 소프트웨어 자체는 일시적인 것으로 간주되어야 한다고 합니다. AI가 필요에 따라 소프트웨어를 즉석에서 생성하고 폐기할 수 있기 때문이죠. 반면, 데이터와 비즈니스 맥락, 노하우 등 회사의 지식과 이해가 진정한 가치를 지닙니다.

"모든 데이터를 소중하게 저장해야 하지만, 소프트웨어는 일시적인 것으로 취급해야 합니다. 소프트웨어는 생성하고 재생성할 수 있습니다. 가치 있는 부분은 '이것이 어떻게 작동하는지'에 대한 사람들의 머릿속에 있는 이해입니다."

5. 인간의 역할: 현실과의 접점 🤝

그렇다면 이 AI 중심의 세상에서 인간은 어떤 역할을 할까요? 발표자는 인간이 "회사 두뇌(Company Brain)"의 가장자리에 위치하여 현실 세계와 상호 작용하는 역할을 할 것이라고 설명합니다.

"저는 기본적으로 우리가 회사 두뇌에 대해 이야기하고 있다고 생각합니다. 그리고 이 방에 있는 많은 사람들이 이것을 구축하고 있다는 것을 알고 있습니다. 하지만 중간 부분, 즉 모든 데이터, 이메일, DM, 스킬, 노하우가 회사 두뇌입니다. 그리고 저는 인간이 이것의 가장자리에 앉아 현실 세계와 상호 작용한다고 생각합니다."

AI 모델이 아직 도달할 수 없는 새로운 상황, 윤리적 고려 사항, 이해관계가 큰 순간 등에서 인간의 역할이 중요해진다는 것이죠. 예를 들어, 창업자가 공동 창업자와 헤어질지 고민하는 것과 같은 고위험, 고감정의 순간에는 여전히 인간적인 판단과 개입이 필요합니다.

"인간은 모델이 아직 갈 수 없는 곳에 도달합니다. 그것은 새로운 상황, 윤리적 고려 사항, 이해관계가 큰 순간일 수 있습니다. 창업자가 공동 창업자와 헤어질지 고민하는 것과 같은 것입니다. 여러분이 정말로 인간이 필요한 그러한 이해관계가 크고 감정적인 순간들입니다."

발표자는 오늘날 회사를 시작한다면 이러한 자가 개선 AI 루프를 기반으로 설계해야 한다고 강조하며, 아직 초기 단계인 기업들에게는 지금이 바로 이 새로운 모델을 구축할 최적의 시기임을 역설합니다. 🚀

마치며

이 강연은 AI가 단순히 업무 효율을 높이는 도구를 넘어, 기업의 존재 방식 자체를 근본적으로 변화시킬 수 있음을 명확히 보여줍니다. 모든 것을 AI가 이해할 수 있도록 기록하고, 스스로 학습하며 개선하는 AI 루프를 구축하는 것이 미래 기업의 핵심 경쟁력이 될 것입니다. 인간은 이러한 시스템의 복잡한 윤리적, 감정적 접점에서 판단하고 리드하는 역할을 하게 될 것이며, 이는 기업가들에게 새로운 도전이자 기회가 될 것입니다.