1. 인트로 & 문제의식
- 녹화일: 2025년 6월 7일 아침
- 주제: AI가 회사의 미래를 어떻게 바꿀지, 최근 AI 세상의 변화와 회사의 구조적 변화에 대한 논의
- 청취자 타겟: AI에 관심이 많고, 최근 흐름과 맥락을 어느 정도 이해한 동호인 레벨
"AI 세상에 참여하는 분들의 이해의 폭이 굉장히 넓어요. 그래서 어느 부분에 맞춰서 이야기를 해야 할지 항상 고민이 많아요."
2. AGI(범용 인공지능)와 AI의 현재
- AGI를 특정 시점이 아닌 전이(transition) 기간으로 보는 게 더 적절하다고 강조
- 2025년 초를 기점으로 AGI로의 전이가 이미 시작됨
- AI 슈퍼위크 등으로 모델이 급격히 발전, 선순환 루프(모델→서비스→데이터→더 좋은 모델) 진입
"AGI는 현재 진행형이다." "Frontier model들이 적어도 어떤 분야에 있어서는 이미 인간의 수준을 한참 뛰어넘는 super intelligence라고 할 수 있잖아요."
- 특히 뛰어난 분야: 수학, 코딩, 생물학 등
- 환각(Hallucination): 모델이 직접 알지 못하거나, 맥락이 부족할 때 발생
→ Proprietary data(고유 데이터)가 중요한 도메인에서는 여전히 한계
3. AI 발전의 핵심: 평가 함수와 강화학습
- Verifiable reward function(검증 가능한 평가 함수)이 있는 분야(수학, 코딩, 생물학 등)는 AI가 빠르게 발전
- Non-verifiable을 verifiable로 바꾸는 closed-loop feedback system이 AI 발전의 핵심
"이게 이제 전기세만 계속 투입해서 test-time compute를 늘려가면 이거는 인간 수준 이상을 만들 수 있는 분야다라는 거를 알게 됐잖아요."
- AlphaEvolve 등에서는 환각을 오히려 혁신의 도구로 활용하기도 함
(다양한 시도를 통해 가능성 공간을 탐색)
4. AI 코딩 툴의 진화와 시장 변화
- Aider, Claude Code, Devin, Cursor 등 AI 코딩 툴의 발전
- Cursor의 사례:
- 초기엔 단순 code assist → 점차 agentic workflow 강화
- 사용자 데이터로 자체 모델(Cusor-small) 개발, hybrid 접근(복잡한 건 frontier model, 단순한 건 자체 모델)
- 실행 속도와 market share가 선순환을 일으키며 1등 자리를 굳힘
"Cursor가 1등이냐? ... 실행 속도를 유지하는 거 말고는 답이 없다."
- AI로 인한 소프트웨어 엔지니어링 시장 변화
- 시니어 엔지니어: AI를 활용해 full-stack 역량 강화, 최대 수혜자
- 주니어 엔지니어: 교육 인센티브 감소, 채용 수요 감소
"이제는 실질적인 구현에 들어가는 노력보다 방향성 설정, 전략 설정, 그리고 AI가 만들어 온 결과물에 대한 evaluation, 검증하는 부분들이 훨씬 더 중요한 능력이 되고 있는 것 같고..."
5. 주니어 엔지니어의 미래와 창업 기회
- 주니어 엔지니어:
- 당분간 조직 내 교육/채용 기회는 줄어들지만, 창업 등 새로운 기회가 열릴 것
- AI 네이티브로서 1인 회사 또는 혁신적 비즈니스 모델 창출 가능성
"주니어 엔지니어들은 지금 채용이 안 된다라는 거를 슬퍼할 필요가 없고... 이들에게 필요한 건 사업가 정신만 교육되면 되는 거거든요."
- 기존 기업: AI 도입이 느린 곳은 변화가 적음, 빠른 곳은 headcount(인원) 조정 등 변화 감지
6. AI 서비스의 구조와 데이터의 중요성
- Cursor for X:
- VC(벤처캐피탈)들이 주목하는 키워드
- Frontier model 위에 의미 있는 서비스를 만들고, 사용자 traffic과 proprietary data를 쌓아 first mover effect를 누림
- DPO(Direct Preference Optimization):
- RLHF(강화학습 기반 인간 피드백)보다 간단하게 선호 학습 가능
"처음에는 저희 회사도 그랬고 자체 모델을 만들어보려고 하다가 데이터의 양이 이거 가지고는 안 된다라는 것 때문에..."
- Agent 서비스:
- Agent 프레임워크(Google ADK, Pydantic AI, OpenAI Agent SDK 등)
- 환각 방지와 trade-off(비싼 모델=똑똑하지만 느림, 싼 모델=빠르지만 바보) 관리가 중요
7. AI 회사의 새로운 조직 구조
- AI 시대의 회사는 아래 레이어(모델 연구)부터 위(UX)까지 유기적 결합 필요
- AI 서비스 개발은 모바일 앱 개발과 달리, 검색 서비스와 유사
- 데이터 수집, 평가, 반복 개선이 핵심
"AI product를 만드는 게 모바일 app을 만드는 것과 굉장히 달라요. ... 얘는 검색 product를 만드는 거랑 훨씬 비슷해요."
- Vertical AI(특정 도메인 특화 AI) 확산
- 각 도메인에 맞는 AI 서비스가 등장할 것
8. AI 네이티브 컴퍼니의 3요소
- 핵심 3요소:
- 리더: AI와 도메인을 연결하는 사람
- AI 엔지니어: 최신 AI 트렌드와 기술을 빠르게 적용
- 내부 고객: 실제 도메인 전문가(비엔지니어)
"내부 고객과 AI 엔지니어링 그룹이 하나가 되는 데도 시간이 2년은 걸리는 것 같아요."
- Forward Research Engineer와 Product Engineering의 분업
- 내부 고객의 피드백과 AI 엔지니어의 빠른 시도(MVP) → 점진적 정렬(Alignment)
"내부 고객들 다수가 '우리는 화장품 회사가 아니라 AI 회사야'라고 얘기하는 게 이제 제가 듣거든요."
9. 회사의 미래 단계
- AI-assisted company → AI-driven company → Autonomous company → Self-evolving company
- 사람의 역할:
- 점점 evaluator(평가자), 전략가로 이동
- Prompting과 evaluation이 인간의 주요 역할
"내부/외부의 핵심적인 프로세스는 AI로 돌아가고, 방향 설정 전략이라든지 이런 것을 하는 걸 prompt로 하는 것과 evaluation, prompting과 evaluation만 인간들이 역할을 하는 게 어떤 이상적인 방향이 될 것 같다."
- 효율성 극대화가 자본과 시장의 논리
- AI 도입이 느린 회사는 data loop부터 시작해야 함
10. 윤리, 인간의 보람, 그리고 현실
- AI 자동화가 인간의 일자리를 대체할 수 있음
- 증강(augmentation)이 아닌 대체(replacement)가 더 효율적일 수 있음
- 새로운 직업:
- AI 트랜스포메이션(AX)을 도울 수 있는 인재
- Prompting과 evaluation 역량이 중요
"내가 그런 시대로 됐을 때 어떤 AI에게 prompting을 잘하거나 혹은 AI가 낸 결과를 evaluation을 잘하거나 이 두 개의 형태로 명확하게 무언가 각이 안 나오면 위험한 거라고 저는 그냥 얘기하는 게 맞을 것 같아요."
11. 복사(Replication)와 도메인 혁신
- Cursor for X의 구조를 각 도메인에 맞게 복사(replicate)하는 것이 혁신의 방법론
- 뷰티 산업 등 각 도메인에 맞는 AI 서비스 설계 필요
"이 방법론을 내 도메인으로 옮겨야 되겠다. 내 도메인은 각자 다르겠죠. 저 같은 경우에는 뷰티니까..."
- 핵심 3요소(리더, AI 엔지니어, 내부 고객)의 정렬이 중요
- 이 과정은 시간이 오래 걸림(2~3년)
12. 마무리 & 결론
- AI가 바꾸는 회사의 미래는 이미 시작되었고,
- Cursor 사례처럼 각 도메인에 맞는 AI 서비스가 핵심
- AI 엔지니어와 도메인 전문가(내부 고객)의 협업,
리더의 연결이 중요
- Prompting과 evaluation이 인간의 역할로 남을 것
- 효율성 극대화가 시장의 논리,
AI 트랜스포메이션에 적응하지 않으면 도태될 수 있음
"이 변화는 거의 99.8%의 확률로 일어나니 빨리 출발하는 게 답이다라는 얘기를 저는 많이 하고 있고요." "회사는 결국 non-verifiable을 verifiable로 바꿔주는 closed-loop feedback system이구나."
핵심 키워드 요약
- AGI 전이
- Super intelligence
- 환각(Hallucination)
- Verifiable reward function
- Closed-loop feedback
- Agentic workflow
- Cursor for X
- Proprietary data
- DPO, RLHF
- Vertical AI
- AI 네이티브 컴퍼니
- Prompting & Evaluation
- Autonomous company
- Alignment(정렬)
- 복사(Replication)
- 효율성 극대화
🎯 이 영상의 핵심 메시지
- AI는 이미 회사의 구조와 일하는 방식을 바꾸고 있다.
- 각 도메인에 맞는 AI 서비스와 데이터 루프를 만드는 것이 미래의 경쟁력이다.
- Prompting과 evaluation, 그리고 도메인-기술의 정렬이 인간의 새로운 역할이 될 것이다.
- 빠르게 변화에 적응하고, 도메인에 맞는 혁신을 시도하는 것이 생존과 성장의 열쇠!
"현실을 가감 없이 말씀드렸습니다. ... 회사라는 개념도 결국은 이 non-verifiable을 verifiable로 바꿔주는 closed-loop feedback system이구나."
읽어주셔서 감사합니다! 🚀
질문이나 의견은 언제든 댓글로 남겨주세요!