이 영상은 Y Combinator(YC)의 파트너 피트 쿠만이 YC 내부적으로 AI 에이전트 인프라를 구축한 경험을 공유하며, AI를 단순한 도구가 아닌 조직 전체의 운영 체제로 활용하는 방법을 설명합니다. 특히 AI 에이전트에 데이터베이스 접근 권한을 부여한 것이 얼마나 큰 변화를 가져왔는지, 그리고 스스로 개선하는 스킬 루프가 어떻게 하룻밤 사이에 더 똑똑해지는지 등을 구체적인 사례를 통해 소개합니다. 개인용 AI 시대를 맞아 AI가 기업과 개인의 역량을 어떻게 극대화할 수 있는지에 대한 심도 깊은 통찰을 제공합니다.

1. YC의 AI 전환과 피트 쿠만의 역할 🚀

Y Combinator(YC)의 파트너 게리 탄은 YC의 특별 게스트이자 동료 파트너인 피트 쿠만을 소개하며, 그가 YC 내부에서 AI 에이전트 인프라를 구축하는 데 핵심적인 역할을 했다고 설명합니다. 피트 쿠만은 이전에 A/B 테스트 솔루션 '옵티마이즐리'를 창업했던 인물로, YC 내부의 모든 AI 활용 시스템을 구축하는 데 기여했습니다.

게리 탄은 챗GPT 이후 YC가 주로 AI 기업에 투자하며 얻은 지식과 경험을 바탕으로, YC 내부에서도 스타트업들이 활용하는 AI 도구를 적극적으로 도입하고 있다고 강조합니다. 이는 YC 자체를 'AI 네이티브 조직'으로 전환시키는 데 큰 영향을 미쳤으며, 피트 쿠만이 그 중심에 있었습니다. 게리 탄은 "YC 내부에서 구축한 모든 것에 대해 공개적으로 이야기하는 것은 이번이 처음"이라며 이번 에피소드에 대한 기대감을 표합니다.

2. 재무팀 문제 해결에서 시작된 AI 에이전트의 여정 💡

피트 쿠만은 YC의 AI 에이전트 도입이 약 1년 전, 재무팀의 비효율적인 소프트웨어 개발 과정에서 시작되었다고 말합니다. 당시 재무팀은 복잡한 금융 업무(예: 회계 장부 기록, 가격 책정 라운드 기록)를 위해 소프트웨어 엔지니어들에게 설명을 해야 했고, 엔지니어들은 이를 바탕으로 맞춤형 소프트웨어를 개발하는 방식이었습니다. 이 과정이 너무 비효율적이라고 느꼈던 피트는 다음과 같이 회상합니다.

"이것은 정말 비효율적이라고 느껴졌습니다. 그리고 동시에, 에이전트형 코딩 도구들이 정말 각광받기 시작했던 시기였죠."

그는 당시 자신에게 "초능력을 주는 것 같았다"고 표현할 만큼 강력했던 에이전트 코딩 도구(예: 윈드서프, 커서, 클라우드 코드)의 경험을 떠올리며, 이러한 도구들을 YC 내부에도 적용하여 재무팀이 직접 영어 프롬프트만으로 자신들의 워크플로우를 제어할 수 있도록 돕자는 아이디어를 떠올렸습니다. 이는 재무팀이 복잡한 코드를 배우는 대신 자연어로 소프트웨어를 만들 수 있게 함으로써, 엔지니어들이 불필요한 번역 과정에서 벗어날 수 있게 하는 혁신적인 접근 방식이었습니다.

3. SQL 접근 권한 부여: 모든 것을 바꾼 순간 ✨

게리 탄은 YC가 처음 투자했던 AI 기업 중 일부가 SQL 쿼리 작성에 LLM을 활용했음에도 불구하고 성공하지 못했던 과거를 언급하며, 피트 쿠만이 만든 SQL 쿼리 생성 에이전트의 효과에 놀라움을 표합니다. 특히 기술적 배경이 없는 재무팀 직원들조차 이 도구를 사용하여 복잡한 질문을 할 수 있게 된 점에 깊은 인상을 받았습니다.

피트 쿠만은 초기에 제한적인 도구만 제공했지만, 자신이 직접 데이터베이스에 읽기 전용 SQL 쿼리를 실행할 수 있는 에이전트 도구를 '몰래' 만들어서 배포했다고 고백합니다. 그는 다음과 같이 말하며 당시의 파격적인 시도를 설명합니다.

"그래서 저는 '이것이 데이터베이스에 완전한 접근 권한을 갖게 한다면 어떨까?'라고 생각했습니다. 이것이 모든 것을 망쳐놓을 수도 있지만, 저는 마치 몰래 밤늦게 배포했습니다."

놀랍게도 이 시도는 "매우 잘 작동했습니다." 🤩 이 경험은 보안과 개인 정보 보호에 대한 과도한 걱정이 오히려 AI의 잠재력을 제한한다는 사실을 깨닫게 해주었습니다.

4. 모든 것을 담은 단일 데이터베이스의 힘 📚

YC는 창립 이래 자체 소프트웨어로 운영되어 왔으며, 모든 중요한 데이터가 단일 PostgreSQL 데이터베이스에 통합되어 있다는 점이 AI 에이전트의 성공에 결정적인 역할을 했습니다. 이 데이터베이스에는 투자한 모든 회사 정보, 창업자 정보, 금융 거래 기록, 내부 CRM의 메모 등 YC 운영에 필요한 모든 컨텍스트가 담겨 있습니다.

피트 쿠만은 이로 인해 에이전트가 "지난 네 배치에서 우주 관련 회사에 투자한 모든 투자자를 보여달라"와 같은 복잡한 질문에 답할 수 있게 되었다고 설명합니다. 모든 컨텍스트가 한 곳에 모여 있고, 스키마에 대한 약간의 추가 정보만 있다면, 에이전트는 YC의 비즈니스에 대한 어떠한 질문에도 답변할 수 있게 됩니다.

게리 탄은 이러한 접근 방식이 "제본스의 역설(Jevons Paradox)"의 좋은 예시라고 강조합니다. 이전에는 복잡한 질문을 하려면 데이터 과학 팀에 요청하고 오랜 시간 기다려야 했기 때문에 질문 자체를 꺼렸지만, AI 에이전트를 통해 쉽게 질문할 수 있게 되면서 질문의 수와 복잡성이 기하급수적으로 증가했다는 것입니다.

5. GBrain: 에이전트를 위한 데이터 최적화 🧠

오래된 기업들이 YC처럼 빠르게 움직이려면 어떻게 해야 할까요? 게리 탄은 그 해답으로 "GBrain"과 같은 접근 방식을 제시합니다. 이는 여러 시스템에 흩어져 있는 데이터를 에이전트가 쉽게 이해하고 활용할 수 있도록 단일화된 스키마로 재구성(denormalization)하는 과정입니다. 마치 구글이 '빅테이블'을 통해 데이터를 최적화했듯이, 이제는 에이전트의 검색 및 이해에 최적화된 형식으로 데이터를 변환해야 한다는 설명입니다.

GBrain은 검색 증강 생성(RAG), 그래프 RAG, 하이브리드 RRF 등 다양한 검색 기술을 활용하여 에이전트가 사용자의 의도를 파악하고, 마치 사용자를 잘 아는 인간처럼 질문에 답할 수 있도록 돕습니다. 게리 탄은 이러한 시스템을 통해 에이전트가 "코너 너머를 내다보고", 사용자가 의도한 바를 해석하여 놀라울 정도로 유용한 답변을 제공한다고 말합니다.

"에이전트에게 영혼을 부여하고, 데이터를 주고, 에이전트가 당신과 당신이 중요하게 생각하는 것을 알게 되면, 갑자기 이들은 엄청난 날개를 달게 됩니다."

6. 에이전트의 '싱글 플레이어' 시대와 '멀티 플레이어' 과제 🎮

지난 1년 반 동안 AI 에이전트는 클로드 코드, 코덱스, 오픈클로, 헤르메스 등 개인 사용자를 위한 '싱글 플레이어' 환경에서 큰 인기를 얻었습니다. 이러한 에이전트들은 개인이 단일 머신에서 거의 모든 작업을 수행할 수 있도록 지원하며, 사용자에게 엄청난 역량을 부여했습니다.

하지만 YC가 직면했던 더 큰 과제는 이러한 '초능력'을 팀이나 조직 전체에 확장하는 '멀티 플레이어' 환경을 구축하는 것이었습니다. 피트 쿠만은 레거시 조직이 AI를 효과적으로 활용하기 위해 집중해야 할 두 가지 핵심 요소를 제시합니다.

1. 공통 컨텍스트 레이어: 모든 중요한 내부 컨텍스트가 모여 있는 데이터 웨어하우스를 구축하는 것입니다. YC의 단일 데이터베이스가 이 역할을 훌륭히 수행했습니다.
2. 내부 도구 레지스트리: YC에 특화된 도구들을 모아놓은 레지스트리입니다. 처음에는 20개 남짓이었던 도구가 현재는 350개 이상으로 늘어났습니다. 재무팀의 장부 기록부터 사무실 시간 관리, 행사 관리 등 YC의 모든 중요한 업무를 지원하는 도구들이 이곳에 등록되어 있습니다. 이 도구들은 내부 에이전트뿐만 아니라 클라우드 코드와 같은 개인용 에이전트에서도 활용할 수 있습니다.

7. 스킬, 리졸버, 그리고 자기 개선의 꿈의 사이클 🔄

게리 탄은 YC의 도구 레지스트리가 오픈클로의 '스킬화(skillify)' 개념, 즉 에이전트가 새로운 작업을 학습하고 이를 재사용 가능한 '스킬'로 만드는 과정과 유사하다고 설명합니다. 이러한 스킬들은 '리졸버(resolver)'라는 목록에 등록되어 에이전트가 활용할 수 있는 기능들을 정의합니다.

그는 효율적인 리졸버 테이블을 만들기 위한 두 가지 중요한 원칙으로 DRY(Don't Repeat Yourself)와 MECE(Mutually Exclusive, Collectively Exhaustive)를 언급합니다. DRY는 중복을 피하는 것이고, MECE는 모든 항목이 상호 배타적이고 총체적으로 망라되어야 한다는 의미입니다. 이러한 원칙을 따르면 에이전트가 최적의 스킬을 선택하고 활용할 수 있습니다.

피트 쿠만은 YC 내부에서 이러한 스킬들이 "자율적인 자기 개선 루프"를 통해 발전하는 과정을 설명합니다. 예를 들어, YC의 범용 에이전트는 매일 밤 직원들의 에이전트 대화 기록을 분석하여 더 효율적으로 처리할 수 있었던 부분이나 누락된 컨텍스트를 찾아냅니다. 게리 탄은 이를 "꿈의 사이클(dream cycle)"이라고 부르며, 에이전트가 스스로 경험을 통해 학습하고 발전하는 메커니즘이라고 설명합니다.

"우리는 이 범용 에이전트를 가지고 있습니다. 이 에이전트는 매일 밤 직원들이 주고받은 에이전트 대화를 읽고, 더 잘할 수 있었던 부분이나 사전에 주어졌다면 더 효율적으로 할 수 있었을 컨텍스트 조각들을 찾습니다."

8. 두 문장 피치 스킬: 초지능이 쌓이는 과정 📈

YC의 공유 스킬 중 하나인 '두 문장 피치' 스킬은 창업자들이 자신의 사업을 간결하고 명확하게 설명하도록 돕는 데 사용됩니다. 이는 단순히 텍스트를 생성하는 것을 넘어, YC 파트너들이 수년간 쌓아온 효과적인 커뮤니케이션 노하우를 담고 있습니다.

이 스킬은 다음과 같은 방식으로 개선됩니다. YC 파트너들이 창업자들과 만나 두 문장 피치에 대한 피드백을 주고받은 회의록이 에이전트에게 제공됩니다. 에이전트는 이 회의록을 학습하여 "두 문장 피치 스킬을 개선하라"는 지시를 받습니다. 그 결과, 스킬은 눈에 띄게 발전하여 이제는 피트 쿠만 개인보다도 더 나은 피치를 작성할 수 있게 되었습니다.

"이제 이 스킬은 저보다 더 잘합니다. 저는 이 스킬이 저보다 더 잘한다고 주장할 수 있습니다."

게리 탄은 이처럼 작은 '두 문장 피치' 스킬의 개선 과정이 "초지능이 조직 내부에서 어떻게 발생하는지"를 보여주는 핵심적인 예시라고 강조합니다. 마치 잭 도시가 블록(Block)을 결제 관련 미니 AGI로 만들려고 하는 것처럼, YC는 수천 가지의 작은 업무에서 이러한 자동화된 개선 루프를 적용하여 조직 전체의 초지능을 구축하고 있습니다.

9. 모든 것을 기록하고 공유하는 조직의 뇌 🧠

AI 네이티브 조직으로 전환하기 위한 핵심은 AI를 단순한 보조 도구(copilot)로 사용하는 것을 넘어, 모든 것의 빌딩 레이어(building layer)로 활용하는 것입니다. 이를 위해서는 모든 아티팩트(artifacts)를 기록해야 합니다. 과거에는 회의 녹화 같은 것이 어색하게 느껴졌지만, 이제는 줌(Zoom) 회의 등이 기본적으로 기록되는 시대가 되었습니다.

피트 쿠만은 이러한 기록들이 단순히 회의 코칭에 사용되는 것을 넘어, 다음과 같은 방식으로 활용될 수 있다고 설명합니다.

"모든 사람이 조직에서 하는 일을 더 잘하게 만드는 방법으로 구성한다면, 그들이 함께 일하는 사람들의 집단적인 기술과 직감을 활용하여 엄청나게 강력해집니다."

예를 들어, 효과적인 두 문장 피치 스킬은 단순히 텍스트를 생성하는 것을 넘어, YC 파트너들이 수년간 쌓아온 커뮤니케이션 노하우를 담고 있습니다. 이는 마치 "공유된 조직의 뇌(shared organizational brain)"와 같아서, 개인은 이 뇌에 접근하여 다른 사람들의 경험과 지식을 활용할 수 있게 됩니다. 이를 통해 신입 직원은 6개월 걸릴 램프업 기간을 단축하고, 숙련된 전문가들의 지식을 AI를 통해 '견습'할 수 있습니다.

10. 신뢰를 기본으로 하는 문화와 '안전주의' 극복 🛡️

YC는 에이전트 대화를 기본적으로 모든 정규 직원이 볼 수 있도록 공개했습니다. 이는 처음에는 많은 논의를 거쳤지만, 결과적으로 다음과 같은 긍정적인 효과를 가져왔습니다.

• 학습의 촉진: 직원들은 다른 사람들이 에이전트를 어떻게 활용하는지 보며 새로운 사용법을 익혔습니다.
• 사회적 통제: 대화가 공개되므로, 직원들은 사적인 정보를 공유하는 것에 대해 스스로 주의하게 되어 내부 보안에 대한 완화된 접근이 가능해졌습니다.

게리 탄은 이러한 접근 방식이 "진정한 에이전트 기반의 1000배 초지능 조직"을 만들기 위한 필수적인 전제 조건이라고 설명합니다. 즉, 조직은 '상대적으로 평등하고(egalitarian)' '기본적으로 신뢰하는(trust by default)' 문화를 갖춰야 합니다. 많은 기업이 '안전주의(safetyism)'를 이유로 컨텍스트를 잠그고, 직원들이 AI에 자유롭게 접근하는 것을 막지만, 이는 AI의 잠재력을 제한합니다.

YC는 이러한 시스템 구축에 연간 10만 달러에서 100만 달러의 토큰 비용을 기꺼이 지불하며, 이는 미래에 보편화될 기술을 미리 경험하는 '시간 여행'과 같다고 게리 탄은 말합니다. 마치 1990년대 기업들이 직원들에게 컴퓨터를 보급한 것처럼, 지금 AI에 투자하는 기업들은 경쟁 우위를 확보하게 될 것이라는 설명입니다.

11. '말 없는 마차'와 '적시 소프트웨어'의 시대 🚗💻

피트 쿠만은 자신의 에세이 "말 없는 마차(Horseless Carriages)"를 통해 당시 AI 소프트웨어 개발의 문제점을 비판했습니다. 많은 기업이 AI를 기존 소프트웨어에 단순한 기능으로 추가하는 방식(예: Gmail의 이메일 작성 도구)을 택했는데, 이는 AI의 잠재력을 충분히 활용하지 못하는 접근 방식이라는 것입니다.

그는 AI의 진정한 잠재력은 개발자에서 사용자에게로 소프트웨어의 통제권을 이전하는 데 있다고 강조합니다. 기존 방식은 AI가 작동하는 방식을 사용자에게 숨기고 개발자가 모든 것을 제어했지만, 이는 사용자의 '초능력'을 제한합니다. 피트 쿠만은 다음과 같이 말하며 미래 AI 소프트웨어의 방향을 제시합니다.

"AI 네이티브 소프트웨어를 더 잘 구축할수록, 이는 AI가 소프트웨어의 확정적 도구를 감싸는 형태가 될 것입니다. 확정적 소프트웨어가 AI를 감싸는 형태가 아니라요."

게리 탄은 "채팅" 인터페이스가 AI 에이전트에게 가장 적합한 형태라고 주장합니다. 처음에는 회의적이었지만, AI 에이전트가 점점 더 신뢰할 수 있게 되면서 사용자는 복잡한 UI 없이도 채팅을 통해 AI에게 더 많은 작업을 위임할 수 있게 되었다는 것입니다. 채팅은 인간의 언어와 사고방식에 가장 가까운 형태이며, 멀티모달(음성, 이미지, 파일) 입력이 가능한 최신 채팅 인터페이스는 AI를 더욱 강력하게 만듭니다.

또한 게리 탄은 자신의 경험을 바탕으로 "적시 소프트웨어(just-in-time software)"의 등장을 예고합니다. 과거에는 수십만 줄의 코드로 만들었던 복잡한 웹 애플리케이션을 이제는 훨씬 적은 코드와 마크다운, 그리고 AI 에이전트를 통해 동적으로 생성하고 수정할 수 있다는 것입니다.

"이는 사실 '적시 소프트웨어'의 새벽입니다. 그리고 저는 지금 그것을 볼 수 있습니다."

12. AI의 중앙집중화 vs 분산화: 개인용 AI 혁명 🌐

게리 탄은 AI의 발전이 중앙집중화(centralizing)될 것인지, 아니면 분산화(decentralizing)될 것인지에 대한 중요한 질문을 제기합니다. 구글의 Gmail 사례처럼 사용자가 AI의 프롬프트를 변경할 수 없는 중앙집중화된 시스템은 소수의 기업이 AI를 독점하는 미래를 초래할 수 있습니다. 이는 1960~70년대에 개인용 컴퓨터가 없었고, 소수의 '사제(priesthood)'만이 거대한 메인프레임을 통제했던 것과 유사합니다.

게리 탄은 이러한 미래를 원치 않으며, 대신 개인용 컴퓨터 혁명과 유사한 개인용 AI 혁명을 지지합니다. 스티브 잡스와 스티브 워즈니악이 차고에서 애플 원(Apple One)을 만들었듯이, 지금은 새로운 AI 기본 요소들을 발견하고 이를 개인에게 제공할 때라는 것입니다.

그는 오픈클로(OpenClaw)나 헤르메스 에이전트(Hermes agent), 그리고 YC의 GBrain과 같은 도구들이 이러한 개인용 AI 혁명을 이끌 수 있다고 믿습니다. 사용자가 직접 자신의 소프트웨어를 실행하고, 프롬프트를 변경하고, 개인 저장소를 가지고, 원하는 모델을 선택할 수 있는 미래.

"저는 10억 명의 사람들이 실제로 자신들을 위해 이것들을 제어하고 프로그래밍하기를 원합니다. 이것은 당신의 확장이어야 합니다. 당신이 중요하게 생각하는 것의 확장이어야 합니다. 메타, 알파벳, 심지어 OpenAI나 앤스로픽이 중요하게 생각하는 것이 아니라요."

피트 쿠만은 AI가 인간을 대체하는 것이 아니라 개인의 역량을 강화하는 도구가 될 것이라고 강조합니다. 메인프레임에서 PC, 인터넷으로 이어지는 기술 발전의 역사는 항상 개인의 역량 강화와 함께해왔으며, AI 역시 그러할 것이라는 낙관적인 전망을 제시합니다. 그러나 이를 위해서는 조직이 기본적으로 개방적이고, 지휘 통제가 아닌 협력에 기반한 새로운 컴퓨팅 방식을 선택해야 한다고 덧붙입니다.

결론

이 영상은 AI를 단순한 도구가 아닌 조직의 핵심 운영 체제로 통합하여 '초지능'을 구축하는 YC의 혁신적인 접근 방식을 생생하게 보여줍니다. 특히 단일 데이터베이스에 대한 에이전트의 광범위한 접근 권한 부여, 내부 도구 레지스트리 구축, 그리고 자기 개선 스킬 루프의 도입은 기업이 AI를 통해 생산성과 혁신을 극대화할 수 있는 구체적인 방법을 제시합니다. 또한 '안전주의'를 벗어나 '신뢰 기반'의 문화를 구축하고, AI의 통제권을 개발자에서 사용자로 이전하며, 중앙집중화가 아닌 '개인용 AI 혁명'을 지향해야 한다는 메시지는 미래 AI 시대의 기업과 개인에게 중요한 통찰을 제공합니다.