이 강의는 앤드류 응(Andrew Ng) 교수와 구글 출신의 AI 전문가 로렌스 모로니(Laurence Moroney)가 2025년 현재 시점의 AI 발전 속도와 변화하는 채용 시장에 대해 다룹니다. 앤드류 응은 AI 코딩 도구의 발전으로 소프트웨어 구축 속도가 빨라지면서 '무엇을 만들지 결정하는 능력(PM 역량)'이 중요해졌음을 강조하고, 로렌스 모로니는 거품이 꺼진 현재의 채용 시장에서 살아남기 위한 전략, '바이브 코딩(Vibe Coding)' 시대의 기술 부채 관리, 그리고 'Small AI(온디바이스/소형 모델)'의 부상이라는 미래 트렌드를 심도 있게 설명합니다.
1. 앤드류 응: 지금이 AI 커리어를 시작하기 가장 좋은 시기인 이유 🚀
강의의 시작은 앤드류 응 교수님이 2025년 현재 AI의 발전 속도에 대한 견해를 밝히며 문을 엽니다. 최근 소셜 미디어에서는 "AI 발전 속도가 느려진 것 아니냐"는 우려가 있었지만, 앤드류 교수님은 이에 동의하지 않습니다. MER meter라는 연구 기관의 결과에 따르면, AI가 수행할 수 있는 작업의 복잡도는 놀라운 속도로 증가하고 있습니다.
인간이 수행하는 데 걸리는 시간을 기준으로 AI가 처리할 수 있는 작업의 복잡도를 측정했을 때, 그 능력은 7개월마다 두 배로 증가하고 있습니다. 특히 AI 코딩 능력의 경우, 그 배가 시간(doubling time)이 70일 정도로 훨씬 더 짧다는 연구 결과도 있습니다.
이러한 발전 덕분에 지금은 역사상 소프트웨어를 구축하기에 가장 좋은 '황금기'라고 강조합니다. 불과 1년 전만 해도 전 세계 최고 전문가들도 만들기 어려웠던 강력한 소프트웨어를, 이제는 여러분 모두가 AI 빌딩 블록(LLM, RAG, 음성 AI 등)을 활용해 만들 수 있게 되었기 때문입니다. 특히 AI 코딩 도구의 발전은 생산성을 비약적으로 높여주고 있습니다.
AI 코딩 도구 분야의 발전 속도는 정말 엄청납니다. 최신 세대의 도구를 사용하는 것과 반세대가 지난 도구를 사용하는 것은 생산성 면에서 큰 차이를 만듭니다. 여러분이 6개월마다, 아니 어쩌면 3개월마다 코딩 툴을 바꿔야 할 수도 있다는 뜻이죠.
프로덕트 매니지먼트(PM) 병목 현상과 엔지니어의 역할 변화
코딩 속도가 빨라지면서 재미있는 현상이 발생했습니다. 예전에는 소프트웨어 스펙을 코드로 구현하는 것이 병목이었다면, 이제는 '무엇을 만들지 결정하는 것' 혹은 '명확한 스펙을 작성하는 것'이 병목이 되었습니다.
앤드류 교수님은 실리콘밸리에서 엔지니어 대 프로덕트 매니저(PM)의 비율이 변하고 있다고 설명합니다. 과거에는 PM 1명이 엔지니어 4~8명을 커버했지만, 이제는 그 비율이 1:1에 가까워지고 있습니다. 더 나아가, 엔지니어 스스로가 유저와 소통하며 제품의 방향을 결정할 때 가장 빠른 실행 속도가 나옵니다.
사용자 피드백을 듣고 깊은 공감을 형성하여 '무엇을 만들지' 결정할 수 있는 엔지니어, 그들이 오늘날 실리콘밸리에서 가장 빠르게 움직이는 사람들입니다. (...) 코드를 짤 수 있으면서 동시에 사용자와 대화하며 제품을 구상할 수 있다면, 여러분의 실행 속도는 훨씬 빨라질 것입니다.
성공을 위한 조언: 동료와 노력 🤝
커리어 성공의 가장 큰 예측 변수는 '주변에 어떤 사람들이 있는가'입니다. 스탠포드와 같은 환경이 주는 가장 큰 혜택은 바로 이 '연결 조직(connective tissue)'입니다. 뛰어난 동료들과 최신 정보를 공유하고 서로 자극을 주고받는 것이 중요합니다. 또한, 앤드류 교수님은 다소 논쟁적일 수 있지만 솔직한 조언을 덧붙입니다.
어떤 사람들은 열심히 일하라고 장려하는 것을 정치적으로 올바르지 않다고 생각하기도 합니다. 하지만 저는 여러분에게 열심히 일하라고 권하고 싶습니다. (...) 여러분이 열심히 일할 수 있는 환경에 있다면, 주말에 멍하니 TV를 보는 것보다 에이전트 코더(agentic coder)를 켜고 무언가를 만들어보는 것을 선택하길 바랍니다.
2. 로렌스 모로니: 2025년 채용 시장의 현실과 면접 꿀팁 💼
이어 마이크를 넘겨받은 로렌스 모로니는 구글, MS 등에서 일한 베테랑이자 베스트셀러 작가로서, 현재 구직 시장의 현실적인 이야기를 들려줍니다. 그는 먼저 면접 태도에 대한 중요한 교훈을 전합니다. 한 뛰어난 코딩 실력을 갖춘 지원자가 면접관에게 "자신의 주장을 굽히지 말라"는 조언을 너무 과도하게 받아들여 공격적인 태도를 보이다가 계속 탈락했던 사례를 소개합니다.
회사가 여러분을 평가하는 것처럼, 여러분도 함께 일할 사람들을 평가해야 합니다. 하지만 반대로 회사 역시 여러분을 '함께 일하고 싶은 동료'인지 평가합니다. (...) 자신의 주장을 펼치는 건 좋지만, 그 과정에서 무례한 사람(jerk)이 되어서는 안 됩니다.
변화된 AI 채용 시장 (2021~2025)
로렌스는 지난 몇 년간의 시장 변화를 다음과 같이 요약합니다.
- 2021-2022 (팬데믹): 산업 전반의 둔화.
- 2022-2023 (AI 붐 & 과잉 채용): AI 열풍과 함께 기업들이 닥치는 대로 인재를 채용했습니다. 단순히 이력서에 'AI'만 있으면 검증 없이 채용되던 시기였습니다.
- 2024-2025 (거대한 각성 & 조정): 과잉 채용의 여파로 자격 미달자가 많다는 것을 깨닫고, 기업들이 훨씬 신중해졌습니다.
지금은 주니어 채용이 줄고 경쟁이 치열해 보이지만, '올바른 마음가짐'을 가진 사람에게는 여전히 기회가 많다고 강조합니다.
3. 성공을 위한 3가지 기둥과 '바이브 코딩'의 시대 🏗️
로렌스는 현재 시장에서 성공하기 위한 3가지 핵심 요소를 제시합니다.
- 깊이 있는 이해 (Understanding in Depth): 학문적인 깊이뿐만 아니라, 트렌드 속에서 '소음(Noise)'과 '신호(Signal)'를 구분할 수 있는 통찰력이 필요합니다.
- 비즈니스 포커스 (Business Focus): 단순히 열심히 일하는 것이 아니라, 결과물(Output)로 증명해야 합니다.
지금 가진 직업에 맞춰 결과물을 내지 말고, 여러분이 원하는 직업에 맞는 결과물을 만드세요.
- 실행 중심 (Bias towards Delivery): 아이디어는 저렴합니다. 중요한 것은 실행입니다.
4가지 직무 현실
오늘날 AI 현업에서는 '멋진 것(Cool)'보다 '유용한 것(Useful)'과 '프로덕션(Production)'이 중요합니다.
- 비즈니스 포커스는 타협 불가: 기업 내 활동주의보다 비즈니스 성과가 우선시되는 분위기로 회귀했습니다.
- 리스크 완화: AI 도입에 따른 위험을 이해하고 줄이는 것이 핵심 역량입니다.
- 책임감의 진화: 단순한 사회적 구호를 넘어, 회사의 평판을 해치지 않는 실질적인 책임감이 요구됩니다.
- 실수로부터 배우기: 실수는 필연적입니다.
바이브 코딩(Vibe Coding)과 기술 부채
생성형 AI로 코드를 짜는 것(일명 '바이브 코딩')은 강력하지만, 동시에 기술 부채(Technical Debt)를 발생시킵니다. 로렌스는 이를 주택 담보 대출(좋은 빚)과 고금리 카드 빚(나쁜 빚)에 비유합니다.
좋은 금융가는 부채를 관리해 부자가 되고, 좋은 코더는 기술 부채를 관리해 부자가 됩니다. (...) 여러분이 AI로 코드를 생성할 때, 그것이 감당할 만한 부채인지 생각해야 합니다.
나쁜 기술 부채를 피하는 방법:
- 명확한 목표를 세우고 달성했는지 확인합니다.
- 비즈니스 가치가 있는지 따져봅니다. (예: 단순히 멋진 웹사이트를 만드는 건 의미가 없음)
- 인간의 이해(Human Understanding): 코드를 문서화하고, 변수명을 정리하여 남들이 이해할 수 있게 만드는 것이 가장 중요합니다.
4. 과장광고(Hype) 속에서 '신뢰받는 조언자' 되기 🕵️♂️
소셜 미디어는 정확성보다 '참여(Engagement)'를 보상하기 때문에 과장된 정보(Hype)가 넘쳐납니다. 로렌스는 여러분이 소음 속에서 신호를 찾아내는 '신뢰받는 조언자(Trusted Advisor)'가 되어야 한다고 말합니다.
에이전트(Agentic) AI의 올바른 접근법
한 기업이 "에이전트를 도입하고 싶다"고 했을 때, 로렌스는 기술적인 이야기 대신 "왜(Why)?"를 물었습니다. 결국 그 기업의 진짜 니즈는 '영업 사원들의 업무 효율화'였습니다. 이를 위해 에이전트 워크플로우를 다음과 같이 적용했습니다.
- 의도 파악 (Understand Intent): LLM을 통해 사용자가 무엇을 하려는지 이해합니다.
- 계획 수립 (Planning): 사용할 수 있는 도구(웹 검색 등)를 정의하고 계획을 짭니다.
- 도구 사용 (Use Tools): 계획대로 도구를 사용해 결과를 얻습니다.
- 성찰 (Reflect): 결과가 의도에 맞는지 확인합니다.
기술적인 과장에 휩쓸리지 말고, 문제를 평범하게(mundane) 만들어서 본질을 파악하세요. 텍스트-비디오 생성 기술도 결국은 '연속된 프레임의 변화를 예측하는 것'일 뿐입니다. 이렇게 본질을 이해하면 전문가로서 더 나은 솔루션을 제시할 수 있습니다.
5. 미래 트렌드: 'Small AI'와 기술의 이분화 🔮
로렌스는 향후 5년 내 AI 시장이 크게 두 갈래로 나뉠 것이라고 예측합니다.
- Big AI: AGI를 추구하는 거대 모델 (OpenAI, Google, Anthropic 등). 외부 호스팅 방식.
- Small AI: 기업이나 개인이 직접 호스팅하는 소형 모델 (Open Weights).
로렌스는 특히 Small AI가 다음의 큰 흐름이 될 것이라고 강력하게 주장합니다. 헐리우드 스튜디오나 로펌 같은 곳은 IP(지식재산권) 유출 우려 때문에 데이터를 외부 LLM에 보내지 않습니다. 대신 성능이 좋아진 소형 모델을 내부에 구축(Self-hosted)하여 미세 조정(Fine-tuning)하는 방식을 택할 것입니다.
오늘의 7B(70억 파라미터) 모델은 어제의 50B 모델만큼 똑똑합니다. (...) 프라이버시, 지연 시간(Latency), 비용 문제를 해결하기 위해 AI는 점점 엣지 디바이스(스마트폰 등)와 CPU 위에서 구동되는 방향으로 갈 것입니다.
인공지능(AI)을 넘어 인공 이해(Artificial Understanding)로
마지막으로 로렌스는 AI가 단순히 지능을 흉내 내는 것을 넘어, 사용자의 의도를 깊이 있게 파악하는 '인공 이해'의 단계로 나아가고 있다고 설명합니다. 자신의 아들이 아이스하키를 하는 사진을 영상으로 변환할 때, 단순한 프롬프트로는 엉뚱한 결과(관중이 꽉 찬 경기장 등)가 나왔지만, 에이전트 워크플로우를 통해 '의도'와 '맥락(연습 경기장, 감정선 등)'을 파악하게 하자 훨씬 훌륭한 결과가 나왔다는 예시를 보여줍니다.
6. 결론 및 Q&A 요약
강의의 마무리는 학생들과의 Q&A로 진행되었습니다.
- 기술 다양성: 엔비디아(NVIDIA)처럼 특정 기술을 깊게 요구하는 곳도 있지만, 하나의 기술에만 올인하는 것은 위험합니다. 기술은 변하므로 스킬을 다각화(Diversify)해야 합니다.
- 연구에서의 AI: 연구에 AI 도구를 적극 활용하되, 결과를 맹신하지 말고 항상 검증해야 합니다. 로렌스는 GPU가 부족했던 연구자에게 구글 Colab을 소개해 주어 연구 속도를 비약적으로 높였던 사례를 들었습니다.
- 사회적 영향: AI는 도구일 뿐입니다. 항상 '선한 의도'를 가정하되, '나쁜 의도로 사용될 가능성'에 대비하는 자세가 필요합니다.
마치며 이번 강의는 단순히 기술적인 내용을 넘어, 2025년이라는 시점에서 엔지니어가 가져야 할 태도와 비즈니스 마인드셋을 강조했습니다. AI 거품이 꺼질 수 있다는 경고와 함께, "기본에 충실하고, 비즈니스 가치를 창출하며, 신호와 소음을 구분할 줄 아는 인재"는 어떤 상황에서도 살아남을 것이라는 메시지를 전합니다. 특히 'Small AI'와 '온디바이스 AI'라는 새로운 기회의 땅을 주목하라는 조언은 커리어를 준비하는 분들에게 중요한 나침반이 될 것입니다.