Andrew Ng: Building Faster with AI preview image

강연의 시작과 AI Fund의 경험

앤드류 응은 AI Fund에서의 경험을 바탕으로, startup을 빠르게 성장시키는 방법에 대해 이야기. He AI Fund가 매달 평균 한 개의 startup을 공동 창업하며, 실제로 코드 작성, 고객과의 대화, 기능 설계, 가격 책정 등 startup의 모든 과정을 직접 경험했다고 강조.

"우리는 단순히 다른 사람들이 startup을 만드는 것을 지켜보는 것이 아니라, 실제로 창업가들과 함께 직접 startup을 만들고 ."

이 강연의 핵심 주제는 속도. 앤드류는 startup의 성공 가능성을 예측하는 가장 강력한 지표 중 하나가 실행 속도라고 말. 최근 AI 기술의 발전으로 startup이 훨씬 더 빠르게 움직일 수 있게 되었으며, 그가 직접 경험한 최신 베스트 프랙티스를 공유하고자 .


AI 스택과 진짜 기회의 위치

앤드류는 AI 스택을 다음과 같이 설명.

  • 반도체(하드웨어)
  • cloud(하이퍼스케일러)
  • AI 파운데이션 모델
  • 애플리케이션(응용) 레이어

많은 미디어와 소셜 미디어가 하드웨어나 파운데이션 모델에 집중However, 실제로 가장 큰 기회는 애플리케이션 레이어에 있다고 강조.

"거의 정의상, 가장 큰 기회는 애플리케이션 레이어에 있을 수밖에 없습니다. 왜냐하면 실제로 profit을 창출하는 것은 애플리케이션이기 때문이죠."


agentic AI의 부상과 workflow 혁신

최근 AI 트렌드 중 가장 중요한 변화로 agentic(Agentic) AI의 등장을 꼽습니다. 기존에는 AI에게 한 번에 결과물을 내놓으라고 요청했다면, 이제는 AI가 여러 단계를 거쳐 반복적으로 작업을 수행하는 방식이 가능해졌습니다.

  • 예시: 에세이 작성
    1. 아웃라인 작성
    2. 웹 리서치 및 자료 수집
    3. 초안 작성
    4. 초안 검토 및 수정
    5. 반복

"agentic workflow를 통해 모델이 여러 번 생각하고, 조사하고, 수정하는 과정을 거치면 더 나은 결과물을 얻을 수 ."

이러한 agentic orchestration 레이어의 등장은 애플리케이션 개발을 더욱 쉽게 만들었으며, 앞으로도 애플리케이션 레이어가 가장 가치 있는 영역임을 재차 강조.


빠른 실행을 위한 구체적 아이디어의 중요성

AI Fund에서는 구체적인 아이디어에만 집중. 구체적이지 않은 아이디어는 빠르게 실행할 수 없기 때문.

  • 비구체적 예시: "AI로 헬스케어 자산을 최적화하자"
  • 구체적 예시: "병원이 환자가 MRI 기기 예약을 온라인으로 할 수 있게 해주는 소프트웨어를 만들자"

"구체적인 아이디어는 속도를 가져다줍니다. 좋은 아이디어인지 아닌지는 빠르게 알 수 ."

구체적인 아이디어는 팀에 명확한 방향성을 주고, 빠르게 검증하거나 실패를 확인할 수 있게 해줍니다. Also, 오랜 시간 해당 분야를 고민한 전문가의 직감이 빠른 의사결정에 큰 도움이 된다고 말.

"data도 중요However, startup에서는 data 수집이 느릴 수 . 오히려 전문가의 직감이 더 빠른 결정을 가능하게 ."


빠른 feedback 루프와 AI coding 어시스턴트의 역할

startup에서 가장 큰 리스크는 고객이 원하는 것을 만들지 못하는 것. 이를 해결하기 위해서는 빠른 feedback 루프가 중요.

  • 기본 루프: 소프트웨어 개발 → 사용자 feedback → 개선 → 반복

AI coding 어시스턴트의 등장으로 engineering 속도가 비약적으로 빨라졌고, 비용도 크게 줄었습니다.

"prototype을 만드는 속도는 10배 이상 빨라졌습니다. 이제는 한 달에 코드베이스를 세 번이나 완전히 새로 만드는 것도 어렵지 ."

이제는 소프트웨어 architecture 선택조차도 예전처럼 '돌이킬 수 없는 결정'이 아니라, 필요하면 얼마든지 바꿀 수 있는 '양방향 문'이 되었다고 설명.

"예전에는 기술 스택을 한 번 정하면 바꾸기 어려웠지만, 이제는 일주일 만에 코드베이스를 버리고 새로 만드는 것도 가능."


모두가 coding을 배워야 하는 이유

AI coding 어시스턴트 덕분에 coding이 점점 쉬워지고 . 앤드류는 모든 직군이 coding을 배워야 한다고 주장.

"저희 팀의 CFO, 인사팀장, 리크루터, 프론트 데스크 직원까지 모두 coding을 할 줄 압니다. 그 덕분에 모두가 더 뛰어난 성과를 내고 ."

컴퓨터에게 원하는 것을 정확히 지시할 수 있는 능력이 미래의 핵심 역량이 될 것이며, coding을 배우는 것이 그 첫걸음이라고 강조.


제품 feedback을 빠르게 받는 다양한 방법

제품 feedback을 빠르게 받는 것이 점점 더 중요해지고 . 앤드류는 속도와 정확성에 따라 다양한 feedback 방법을 소개.

  1. 가장 빠름: 본인이 직접 제품을 써보고 직감에 따라 결정
  2. 조금 느림: 팀원 3명에게 feedback 받기
  3. 더 느림: 낯선 사람 3~10명에게 feedback 받기 (카페, 호텔 로비 등에서)
  4. 더 느림: 100명 이상의 테스터에게 prototype deployment
  5. 가장 느림: AB test

"AB test는 실리콘밸리에서 많이 이야기However, 실제로는 가장 느린 feedback 방법 중 하나."

feedback을 받을 때는 단순히 결과만 볼 것이 아니라, 직감을 계속 업데이트하여 더 빠르고 정확한 결정을 내릴 수 있도록 해야 한다고 조언.


AI 기술 이해가 속도를 높이는 이유

AI는 아직 성숙하지 않은 기술이기 때문에, AI를 잘 이해하는 팀이 그렇지 않은 팀보다 훨씬 빠르게 움직일 수 .

"AI에 대한 올바른 기술적 판단을 내리면 며칠 만에 문제를 해결할 수 있지만, 잘못된 결정을 내리면 몇 달을 허비할 수 ."

Also, 최근 2년간 등장한 다양한 GenAI 빌딩 블록(prompt, workflow, 평가, 가드레일, RAG, embedding, fine-tuning 등)을 조합하면, 이전에는 상상도 못했던 소프트웨어를 빠르게 만들 수 있다고 설명.

"새로운 빌딩 블록을 하나씩 익힐 때마다, 조합할 수 있는 가능성이 기하급수적으로 늘어납니다."


Q&A: AI 시대의 인간의 역할, 과장된 AI 담론, startup의 경쟁력 등

1. AI 시대, 인간은 무엇을 준비해야 할까?

"미래에는 컴퓨터에게 원하는 것을 정확히 시킬 수 있는 사람이 가장 강력해질 것. AI를 잘 활용할 줄 아는 사람이 그렇지 않은 사람보다 훨씬 더 강력해질 겁니다."

2. AI와 관련된 과장된 담론과 위험

앤드류는 AI가 인간을 멸종시킬 것이라는 등 과장된 위험 담론이 일부 기업의 이익을 위해 증폭되고 있다고 비판.

"AI가 너무 강력해서 인류를 멸종시킬 수 있다는 건 말도 안 되는 이야기. Such 과장된 담론은 특정 기업의 펀딩이나 영향력 확대에 도움이 되었을 뿐."

AI의 안전성(safety)보다는 책임감(responsibility)이 더 중요하다고 강조.

"AI는 안전하거나 위험한 것이 아니라, 우리가 어떻게 사용하느냐에 따라 달라집니다. 책임감 있게 사용하는 것이 중요."

3. startup의 경쟁력과 모트(Moat)

"가장 중요한 것은 사용자가 정말로 원하는 제품을 만드는 것. 그 외의 것들은 그 다음에 고민해도 늦지 ."

모트(경쟁우위)는 시간이 지나면서 자연스럽게 생기는 경우가 많으며, 지금은 애플리케이션 레이어에 아직 아무도 만들지 않은 기회가 훨씬 많다고 강조.

4. AI 빌딩 블록의 누적 효과와 유연성

여러 빌딩 블록을 조합할 때는 유연성을 유지하는 것이 중요. For example, 파운데이션 모델을 쉽게 교체할 수 있도록 소프트웨어를 설계하면, 새로운 모델이 나왔을 때 빠르게 전환할 수 .

"우리는 종종 어떤 모델을 쓰는지조차 모를 정도로, 새로운 모델이 더 좋으면 바로 교체."

5. AI와 교육의 미래

AI가 교육을 어떻게 바꿀지에 대해선 아직 실험 단계가 많으며, 하이퍼퍼스널라이즈드(초개인화)가 될 것이라는 전망을 내놓습니다.

"교육 분야에서는 아직 실험이 많고, 최종적인 모습은 명확하지 . 앞으로 10년간은 다양한 workflow를 AI에 맞게 매핑하는 과정이 계속될 것."

6. AI의 사회적 책임과 불평등

AI가 불평등을 심화시킬 수 있다는 우려에 대해, 앤드류는 윤리적 기준을 지키는 것이 중요하다고 강조.

"만약 여러분이 만드는 것이 세상을 더 나아지게 하지 않는다고 생각된다면, 만들지 마세요. 저희도 경제적으로 성공할 수 있는 프로젝트를 윤리적 이유로 중단한 적이 ."

Also, 모든 사람이 AI를 활용할 수 있도록 돕는 것이 중요하다고 덧붙.

7. AI 교육의 대중화와 open source의 중요성

AI에 대한 지식이 소수에게만 집중되는 것을 막기 위해, open source와 오픈웨이트 모델의 중요성을 강조.

"규제나 폐쇄적인 정책이 성공하면, 소수의 기업만이 혁신을 주도하게 되고, 모두가 허락을 받아야만 새로운 것을 시도할 수 있게 . 우리는 open source를 지켜내야 ."


Conclusion: startup 성공을 위한 Key Summary

앤드류는 startup의 성공에 있어 속도가 매우 중요하며, 이를 위해 다음을 강조.

  • 구체적인 아이디어에 집중할 것
  • AI coding 어시스턴트를 활용해 빠르게 개발할 것
  • 다양한 feedback 루프를 통해 빠르게 제품을 개선할 것
  • AI 기술을 꾸준히 학습하고 최신 트렌드를 따라갈 것
  • 책임감 있게 AI를 활용할 것

"속도와 품질 모두 중요However, 속도는 절대적으로 중요."

Finally,, 모두가 AI를 배우고, open source를 지키며, 책임감 있게 혁신을 이어가야 한다는 메시지로 강연을 Conclusion.


👏 감사합니다!

Related writing

Related writing