이 요약은 전 딥마인드, xAI, TML 엔지니어 김성식 님과의 대화 내용을 정리한 것입니다. 김성식 님은 한국계 미국인으로, 최근 한국을 방문하여 프론티어 AI 연구소에서의 경험을 솔직하게 공유해주셨습니다. 이번 대화에서는 인공지능 업계의 현재 상황, AGI에 대한 다양한 시각, 그리고 AI 기술이 가져올 미래 변화에 대한 깊이 있는 통찰을 엿볼 수 있습니다. 특히, 일론 머스크의 리더십 스타일, AI 개발의 방향성, 그리고 엔지니어에게 요구되는 역량 변화 등 현장의 생생한 이야기가 담겨 있어 AI 분야에 관심 있는 분들에게 매우 유익한 자료가 될 것입니다.

1. 일론 머스크와 xAI의 숨 막히는 작업 환경 🚀

김성식 님은 xAI에서 근무할 당시 일론 머스크의 엄청난 업무 강도와 열정을 직접 경험했다고 해요. "일론은 옆에서 봐도 진짜다. xAI 일하는 방식도 개빡세다. 7일 내내 일하고, 하루 5-6시간 자고, 가장 바쁠 때는 일론과 거의 매일 팀 단위로 대면 미팅했다."라고 회상하며, 일론이 대면 미팅을 굉장히 선호하며 테슬라와 스페이스X에서도 같은 방식으로 일해왔다고 덧붙였습니다. 1년 2개월이라는 짧은 기간 동안 일했지만, 거의 번아웃 직전까지 갈 정도로 힘들었다고 합니다. 정말 '개빡세다'는 표현이 절로 나오는 환경이었나 봐요!

2. 모델이 모델을 학습시키는 시대의 도래 임박 🤖

AI 기술이 발전하면서 이제는 모델이 스스로를 학습시키는 단계가 목전에 다다랐다고 합니다. 김성식 님은 "AI가 개발자를 대체할 수 있게 됐으니, 이제는 AI가 연구자까지 대체할 수 있는지가 요즘 업계의 실험 대상이다."라고 설명하며, 코딩 능력에 어느 정도의 리서치 역량만 더해진다면 모델이 스스로를 발전시킬 수 있을 것이라는 낙관적인 시그널이 보인다고 강조했어요. 이는 AI 연구의 패러다임을 바꿀 중요한 전환점이 될 수 있겠네요.

3. 코딩 능력의 중요성과 기술 격차 💻

이러한 맥락에서 코딩 능력의 정복은 매우 중요한데요. 김성식 님은 "코딩 모델이 좋아질수록 모델 자가학습에 가까워진다. 그 단추가 채워지면 그 회사가 exponentially 따라잡는다."라고 말하며, AI 코딩 모델의 발전이 곧 기업의 성장 속도를 결정할 것이라고 보았습니다. 심지어 일론 머스크가 다시 강력한 모드로 들어간 이유 중 하나가 앤트로픽(Anthropic)과 같은 경쟁사가 이 자가 학습 라인에 가까워지고 있다는 판단 때문이라는 시각도 있다고 하네요.

4. AI 경쟁의 본질: 컴퓨팅 자원과 데이터 싸움 📊

김성식 님은 내부에서 볼 때 요즘 연구가 "엄청 inventive"하지는 않다고 솔직하게 이야기했습니다. 결국 AI 발전의 핵심은 컴퓨팅 자원을 얼마나 효율적으로 활용하고, 양질의 데이터를 얼마나 많이 확보하느냐의 문제라고요. "compute을 어떻게 더 잘 활용할지, 좋은 데이터를 어떻게 더 많이 뽑을지의 문제. 본질이 그래서 펀딩과 인프라가 곧 경쟁력이 된다."는 말처럼, 결국 막대한 펀딩과 인프라가 AI 경쟁력의 근간이 되는 셈입니다.

5. AGI에 대한 다양한 정의들 🤯

흥미롭게도 AGI(범용 인공지능)의 정의는 사람마다 크게 다르다고 합니다.

• 샘 올트먼(Sam Altman)은 "경제적 가치 있는 거의 모든 직업을 대체할 수 있는 수준"을 AGI로 보고 있습니다.
• 데미스 하사비스(Demis Hassabis)는 "아인슈타인이 일반상대성 이론을 혼자 발명한 수준으로, 모든 분야 expert의 기준선을 달성하는 것"이라는 더욱 높은 기준을 제시했어요.
• 얀 르쿤(Yann LeCun)은 "텍스트 없이 세상을 보고 배우는 World Model이 가능해야" 한다고 주장합니다.

이렇게 AGI에 대한 정의가 다르기 때문에, 각 회사가 추구하는 방향과 AGI 도달 시점에 대한 자기 확신 역시 크게 달라진다고 김성식 님은 설명했습니다.

6. 진보는 기획보다 우연이 만든다 ✨

AI 기술의 진보가 항상 계획대로 이루어지는 것은 아니라고 합니다. 트랜스포머(Transformer)를 개발한 사람들도 처음에는 그 파급력을 예상하지 못했다고 해요. 심지어 "OpenAI에서 어떤 실험을 켜놓고 끄는 걸 잊은 채 휴가를 갔다가 돌아와보니 reward curve가 확 좋아져 있었다는 일화도 있다"는 이야기도 해주셨어요. 😮 이처럼 예상치 못한 우연이 중요한 발견으로 이어지는 경우가 많기 때문에, 한 가지 방식만을 고집하기보다는 다양한 연구 방식이 공존하는 것이 진보에 더 건강하다고 봅니다.

7. 스케일링의 비선형적 특성: 로그 리턴 📈

AI 모델을 스케일링할 때의 특성에 대해서도 언급했는데요. 컴퓨팅 자원과 데이터를 선형적으로 투입해도 결과(리턴)는 로그 스케일로 온다고 합니다. 즉, 투입 대비 효율이 점차 감소한다는 의미인데요. "어디까지 부어야 의미 있는 점프가 나오는지, 그 변곡점이 어디인지는 아직 아무도 모른다."는 말처럼, 이 지점을 찾는 것이 현재 연구의 중요한 과제 중 하나라고 볼 수 있겠네요.

8. AI는 격차를 줄이는 대신 벌리는 기술 ↔️

AI 기술이 사회 전체의 격차를 줄이기보다는 오히려 벌릴 수 있다는 다소 냉철한 시각도 제시되었습니다. "사회 achieve lower half를 끌어올리는 게 아니라, 꼭대기에 있는 사람이 더 많은 토큰을 쓰고 더 좋은 모델을 쓴다."는 말처럼, AI 활용 능력이 뛰어난 소수의 사람이 더 큰 이득을 취할 것이라는 예측입니다. 챗봇 활용은 제한적일 수 있지만, 에이전트를 통해 회사를 운영하는 사람들은 차원이 다른 수준으로 AI를 활용하게 될 것이며, 결국 자본을 감당할 수 있는 사람만이 AI의 진정한 혜택을 누릴 수 있을 것이라는 현실적인 분석입니다.

9. 에이전트 능력의 중요성: 다음 5년의 격차 🚀

김성식 님은 AI의 진정한 능력이 에이전트에서 나온다고 강조했습니다. 챗GPT나 Gemini 같은 챗봇과의 대화는 대중적인 활용법이지만, AI 연구자들은 내부적으로 에이전트의 능력을 최대한으로 끌어내는 실험에 집중하고 있다고 해요. "같은 모델을 누가 어떻게 쓰느냐, 그 차이가 다음 5년 격차를 만든다."는 말처럼, 에이전트를 얼마나 효과적으로 활용하느냐가 앞으로의 경쟁력을 결정할 핵심 요소가 될 것입니다.

10. 앤트로픽의 폐쇄적 전략: AGI 선점과 통제 🔒

앤트로픽(Anthropic)이 자신들의 모델을 오픈소스로 공개하지 않는 이유에 대해 김성식 님은 명확한 시각을 제시했습니다. "우리가 클로즈드로 제일 먼저 AGI에 도착해서, AI가 사람과 어떻게 교류하고 살아갈지를 우리가 정하겠다는 마인드."라고 설명하며, 이는 어떻게 보면 위험한 발상일 수 있다고 지적했어요. AGI의 윤리적 방향을 특정 회사가 독점적으로 결정하려는 시도는 많은 논란을 불러일으킬 수 있겠네요.

11. 프론티어 랩마다 다른 업무 방식과 진보의 동력 🔬

각 프론티어 AI 연구소마다 일하는 방식이 완전히 다르다는 점도 흥미로운 부분입니다.

• xAI는 일론 머스크의 영향으로 'first principles' 사고방식과 엔지니어링 중심의 접근 방식을 따릅니다. "제일 큰 데이터센터 짓고 그 위에서 데이터를 잘 뽑아내는 데만 집중해라로 task가 명확하게 떨어진다."는 설명처럼, 명확한 목표 아래 효율적인 엔지니어링에 집중하는 스타일이죠.
• 반면, 어떤 연구소들은 "좀 더 프리하게 시간을 투자해 연구하다 거기서 새 아키텍처가 나오기를 기대하는 스타일"이라고 합니다.

김성식 님은 어떤 방식이 정답인지는 아직 알 수 없으며, "그래서 다양한 랩이 다양한 방식으로 푸시하는 게 곧 진보의 동력이라는 얘기가 안쪽에서 자주 나온다."고 덧붙였습니다. 다양한 시도가 결국 AI 발전을 이끈다는 의미겠죠.

12. AI 연구자들의 실존적 고민 😔

AI를 만드는 사람들도 이 기술이 가져올 미래에 대해 실존적인 고민을 하고 있다고 합니다. "내가 AI 만들어서 나도 쓸모없어지고 모든 사람이 쓸모없어지면 그것도 좋은 결론 아닌 것을 모두가 알고 있다."는 말처럼, AI 개발자들도 자신들의 연구가 가져올 파급력에 대해 깊이 생각하고 있다는 것이죠. 결국 "어차피 누군가는 만들 거니까, 차라리 내가 안에서 좋은 쪽으로 이끌자. 이게 프론티어에 남아 있는 사람들의 자기 합리화이자 실제 동기아닐까."라는 말은 AI 연구자들이 느끼는 책임감과 동기를 잘 보여줍니다.

13. 엔지니어에게 필요한 역량의 변화 🧑‍💻

AI 시대에 들어서면서 엔지니어에게 필요한 스킬도 완전히 바뀌었다고 합니다. 과거에는 한 분야의 깊이와 싱글 스레드 집중력이 중요했지만, 이제는 "여러 에이전트를 동시에 돌리고 관리하는 멀티태스킹" 능력이 더욱 중요해졌다고 해요. "깊이 파는 사람보다 병렬 시스템을 잘 구축하는 사람이 더 productive하다."는 말처럼, 시스템 전체를 조율하고 관리하는 능력이 더욱 중요해진 것이죠. 김성식 님 자신도 의식적으로 이러한 방향으로 스킬을 전환하고 있다고 합니다.

14. AI로 인한 삶의 질 변화: 조급함과 불안감 😥

아이러니하게도 AI 기술의 발전으로 인해 삶의 질이 오히려 낮아졌다는 개인적인 경험도 공유해주셨습니다. "할 수 있는 건 많아졌는데, 다른 사람들은 나보다 더 잘할 것 같아서 조급함이 커졌다."는 말처럼, AI가 가져오는 무한한 가능성 속에서 개인적인 상대적 박탈감과 불안감을 느끼게 된다는 것이죠. 과거에는 큰 강점이었던 코딩 능력조차 이제는 더 이상 특별한 어드밴티지가 아니게 되었다는 자조 섞인 목소리도 들을 수 있었습니다.

15. 한국과 실리콘밸리의 치열함: 다른 종류의 열정 🔥

김성식 님은 한국과 실리콘밸리의 치열함이 다른 종류라고 설명했습니다.

• 실리콘밸리, 특히 베이 에어리어(Bay Area)에서는 "일 끝나고 쉬고 싶은데 옆 사람은 오늘 모델 이렇게 학습시켜볼까, 저렇게 해볼까 얘기만 한다."는 말처럼, 끊임없이 기술적인 개선과 발전에만 몰두하는 모습을 보인다고 해요. "다음 0.5%를 짜내는 일 자체에 대한 치열함"이라고 표현했습니다.
• 반면, 한국의 치열함은 사회적 지위(Social Status)를 은연중에 자랑하는 식의 치열함이라고 보았습니다.

결국 두 종류 모두 사람을 극한으로 몰아넣는다는 점은 같다고 덧붙였습니다.

16. 차원이 다른 펀딩 스케일 💰

실리콘밸리의 펀딩 스케일은 상상을 초월한다고 합니다. "Stanford 1학년 2-3명이 시작한 회사가 500M 밸류에이션으로 펀딩 받는다(Standard Intelligence)."는 사례처럼, 젊은 창업가들의 아이디어가 엄청난 규모의 투자를 유치하는 것이 일상적인 곳이라고 설명했습니다.

17. 사람의 비합리성: 관성의 힘 🐢

김성식 님은 AI 시대에도 사람의 비합리성 때문에 모든 것이 효율적인 방향으로 빠르게 변하지는 않을 것이라고 보았습니다. "그래서 먼저 잡아둔 프론트엔드의 관성이 생각보다 오래간다."는 말처럼, 사람들은 익숙한 것을 계속 사용하는 경향이 있다는 것이죠. 카카오톡의 사례처럼, 압도적인 기술력이 아니더라도 다수가 사용하기 때문에 계속 사용하는 현상이 AI 서비스에서도 나타날 것이라고 예측했습니다. "99%의 사람은 쓰던 걸 계속 쓴다. AI 시대에 사람들이 빨리 갈아탈 거라고 가정하고 투자하면 망한다는 게 본인 관찰이다."는 그의 경험에서 나온 중요한 통찰입니다.

18. 한국 시장의 AI 스위트 스팟: AI PE 🎯

마지막으로 김성식 님은 한국 시장에서 AI 기술의 스위트 스팟을 AI PE(Private Equity)로 보았습니다. 컨설팅은 반복 주기가 너무 길고, FDE(Full-Stack Development) 모델은 데이터, 온프레미스, 규제 등으로 인해 협업이 어렵다는 문제점이 있기 때문이죠. 대신 "차라리 영업이익 좋은 회사를 사서 안에서 AI로 갈아끼우는 게 답이라는 결론."을 제시했습니다. AI 탑 연구자들은 이런 일을 꺼리고, PE 전문가들은 AI 전문성이 부족해서 그 갭이 비어 있다는 점을 지적하며, 실제로 본인이 미국에서 동료들과 함께 고민하던 방향이라고 강조했습니다.

결론

김성식 님과의 대화를 통해 최첨단 AI 연구 현장의 생생한 이야기와 함께 AI 기술이 가져올 사회적, 개인적 변화에 대한 깊이 있는 통찰을 얻을 수 있었습니다. 일론 머스크의 리더십부터 AGI의 다양한 정의, 그리고 AI 엔지니어에게 필요한 역량 변화까지, AI의 현재와 미래를 이해하는 데 매우 귀중한 시간이었습니다. 특히 AI가 가져올 격차 심화와 개인적인 불안감에 대한 솔직한 이야기는 기술 발전의 이면을 돌아보게 하는 계기가 되었습니다. 앞으로도 이러한 귀한 경험담들이 더 많은 사람들에게 공유되어 AI 기술의 건강한 발전 방향을 함께 모색할 수 있기를 기대합니다. ✨