이 영상은 구글 딥마인드의 공동 창립자이자 CEO인 데미스 허사비스와 해나 프라이 교수가 인공지능(AI)의 현재와 미래에 대해 나누는 깊이 있는 대화를 담고 있습니다. 2025년 한 해 동안 AI 분야에서 일어난 놀라운 발전들을 되짚어보고, 일반 인공지능(AGI)에 도달하기 위한 로드맵, 즉 융합 에너지와 재료 과학의 근본적인 문제 해결, 월드 모델과 시뮬레이션의 발전, 그리고 윤리적 AI 구축의 중요성 등을 심도 있게 논의합니다. 또한, AI 기술 발전의 경쟁적 역학 속에서 과학적 엄격성을 유지하는 것의 중요성과 AGI가 사회에 미칠 영향에 대한 허사비스의 개인적인 견해도 엿볼 수 있습니다.
1. 2025년 AI 발전 현황과 '루트 노드' 문제 해결 🚀
2025년은 AI 분야에서 정말 놀라운 한 해였다고 데미스 허사비스는 말합니다. 마치 10년 치 발전이 1년 안에 압축된 것 같다는 표현을 쓸 정도였죠. 특히, 구글 딥마인드의 제미니 3(Gemini 3)는 멀티모달(multimodal) 기능 면에서 괄목할 만한 성과를 보여주었습니다. 하지만 그중에서도 가장 기대되는 발전은 바로 월드 모델(world models)의 진보라고 강조했습니다.
해나 프라이 교수는 데미스 허사비스가 과거에 언급했던 '루트 노드(root node) 문제'를 떠올리며 질문했습니다. 이는 AI를 활용하여 과학과 의학 분야의 근본적인 문제를 해결하고, 이를 통해 파생되는 수많은 이점을 얻을 수 있다는 아이디어였죠. 이에 대해 허사비스는 다음과 같이 설명했습니다.
"물론, 가장 큰 성공 사례는 알파폴드(AlphaFold)였죠. 알파폴드 2가 세상에 발표된 지 벌써 5주년이 되어가고 있다는 게 믿기지 않아요. 알파폴드는 이런 '루트 노드' 유형의 문제 해결이 가능하다는 것을 증명한 것이죠. 우리는 지금 다른 모든 루트 노드 문제들을 탐구하고 있습니다."
현재 딥마인드는 다음과 같은 주요 루트 노드 문제 해결에 집중하고 있습니다:
- 재료 과학: 상온 초전도체, 더 나은 배터리 등 새로운 재료 개발에 주력하고 있습니다.
- 핵융합 에너지: 커먼웰스 퓨전(Commonwealth Fusion)과의 협력을 통해 토카막(tokamak) 핵융합로의 플라즈마 제어와 재료 설계 가속화를 돕고 있습니다. 허사비스는 핵융합이 "성배"와 같다고 말하며, 모듈형 핵융합로가 무제한의 깨끗한 에너지를 제공하여 기후 문제 해결에 크게 기여할 수 있다고 언급했습니다.
- 양자 컴퓨팅: 구글의 양자 AI 팀과 협력하여 기계 학습을 이용한 오류 수정 코드(error correction codes) 개발을 돕고 있습니다.
허사비스는 이러한 루트 노드 문제, 특히 핵융합 에너지 문제가 해결된다면, "에너지가 정말 재생 가능하고 깨끗하며 매우 저렴하거나 거의 무료가 된다면, 다른 많은 것들이 가능해질 것입니다. 예를 들어, 해수 담수화 시설을 거의 모든 곳에 건설하여 물 부족 문제를 해결하고, 심지어 로켓 연료를 만드는 데도 활용할 수 있을 겁니다."라고 말하며 그 파급 효과의 중요성을 역설했습니다.
2. '들쭉날쭉한 지능'과 일관성의 중요성 🧐
AI가 수학 분야에서 국제 수학 올림피아드 메달을 획득하는 등 뛰어난 성과를 보여주는 동시에, 고등학교 수준의 기본적인 수학 문제에서 실수를 저지르는 "역설"에 대한 질문이 나왔습니다. 허사비스는 이를 '들쭉날쭉한 지능(jagged intelligence)'이라고 부르며, AGI로 가는 길에 반드시 해결해야 할 중요한 문제 중 하나라고 설명했습니다.
"우리가 AGI(일반 인공지능)에 도달하지 못한 주요 이유 중 하나는 바로 이 부분이 고쳐져야 한다고 생각해요. 말씀하셨듯이, 국제 수학 올림피아드에서 금메달을 따는 등 엄청난 성공을 거두었죠. 하지만 다른 한편으로는 우리가 일상에서 챗봇을 실험하면서 겪듯이, 논리 문제에서 꽤 사소한 실수를 저지르기도 합니다."
현재 AI 시스템은 특정 분야에서는 박사 학위 수준의 능력을 보이지만, 다른 분야에서는 고등학생 수준에도 못 미치는 불균형적인 성능을 보인다는 것입니다. 이러한 불일치는 다음과 같은 원인에서 비롯될 수 있다고 언급했습니다:
- 이미지 인식 및 토큰화 방식: 이미지가 인식되고 토큰(token)으로 변환되는 방식의 문제로, 때로는 글자의 개수를 제대로 세지 못하는 경우가 발생하기도 합니다.
- 추론 및 사고 과정의 일관성 부족: AI가 더 많은 시간을 할애하여 '생각'하는 시스템으로 발전하고 있지만, 이 사고 시간이 정보를 다시 확인하고 도구를 사용하여 검증하는 데 일관성 있게 활용되지 못하고 있다는 점을 지적했습니다.
허사비스는 일관성(consistency), 특히 추론과 사고 과정의 일관성이 AGI의 핵심 요소라고 강조하며, 현재 이러한 일관성 수준은 50% 정도에 불과하다고 보았습니다. 이는 마치 사람이 생각나는 대로 바로 말해버리는 것과 비슷하며, AI가 잠시 멈춰 서서 자신이 말하려는 내용을 다시 검토하고 조정하는 능력이 필요하다는 비유를 들었습니다.
3. 알파고에서 알파제로, 그리고 미래의 학습 방식 🧠
해나 프라이 교수는 인간의 경험을 제거하자 오히려 성능이 향상된 알파제로(AlphaZero)의 사례를 언급하며, 과학이나 수학 분야에서도 이러한 '알파고-알파제로' 방식의 모델이 가능한지 질문했습니다.
허사비스는 현재 개발 중인 대규모 언어 모델(LLM)과 파운데이션 모델(foundation models)은 마치 알파고(AlphaGo)처럼 인간의 모든 지식, 즉 인터넷에 있는 모든 정보를 활용하여 학습하고 있다고 설명했습니다. 하지만 이러한 모델들이 학습된 지식을 바탕으로 유용한 추론 과정을 지시하고 계획을 세워 최적의 솔루션을 찾아내는 '검색' 또는 '사고' 능력은 아직 초기 단계라고 보았습니다.
"저는 우리가 아직 인간 지식의 한계, 예를 들어 인터넷에 있는 정보에 갇혀 있다고 느끼지 않습니다. 현재 가장 큰 문제는 우리가 알파고에서 했던 것처럼 그러한 시스템들을 신뢰할 수 있는 방식으로 활용하는 방법을 아직 완전히 알지 못한다는 것입니다."
또한, 현재 AI 시스템의 중요한 결점 중 하나로 지속적인 온라인 학습(online learning) 능력의 부재를 꼽았습니다. 현재 모델들은 훈련되고 배포된 후에는 세상에서 스스로 계속 학습하지 못하며, 이는 AGI를 위한 필수적인 요소라고 강조했습니다.
4. 과학 연구 vs. 상업화: AI 발전의 딜레마 ⚖️
데미스 허사비스는 딥마인드의 근본이 과학 연구에 있다는 점을 강조하며, "만약 제가 원했다면 AI를 연구실에 더 오래 두고 알파폴드와 같은 일을 더 많이 했을 것입니다. 아마 암을 치료하거나 하는 식으로요."라고 언급한 과거 발언에 대해 논의했습니다. 그는 AI의 상업화가 너무 빠르게 진행된 것이 아쉬움과 동시에 긍정적인 측면도 있다고 보았습니다.
"저는 얻은 것도 있고 잃은 것도 있다고 생각해요. 그게 좀 더 순수한 과학적 접근 방식이었을 거예요. 적어도 15~20년 전의 제 원래 계획은 그랬죠."
원래 그의 계획은 AGI를 향해 점진적으로 발전하면서 각 단계의 안전성과 시스템 분석에 신중을 기하는 것이었습니다. 동시에 AGI가 완성되기 전이라도 해당 기술을 사회에 유익한 방식으로 활용하여 과학과 의학 발전에 기여하는 것이었습니다. 알파폴드가 바로 그 예시였죠. 그는 이러한 방식으로 암 치료와 같은 수많은 유익한 발견들이 이루어지기를 바랐다고 합니다.
하지만 챗봇의 등장과 성공적인 상업화는 예상치 못한 결과를 가져왔습니다. 챗봇은 단순히 채팅을 넘어 이미지, 비디오 등 다양한 형태의 작업을 처리하는 파운데이션 모델(예: 제미니)로 진화하며 큰 상업적 성공을 거두었습니다. 허사비스는 이러한 발전이 개인의 생산성을 높이고 정보 과부하 시대에 "궁극의 조수"를 제공할 수 있다는 점에서 긍정적으로 평가했습니다.
그럼에도 불구하고, 이러한 급격한 상업화는 AI 기술 개발의 "광적인 경쟁 상태(crazy race condition)"를 초래했습니다. 수많은 기업과 심지어 국가들이 서로를 능가하기 위해 경쟁하면서, 엄격한 과학적 연구를 병행하기가 어려워졌다는 점을 지적했습니다.
반면, 이러한 경쟁 체제의 긍정적인 측면도 있습니다:
- 자원 유입 증가: AI 분야에 막대한 자원이 투입되어 기술 발전이 가속화되었습니다.
- 대중의 접근성: 일반 대중이 최신 AI 기술을 직접 경험하고 이해할 수 있게 되어, AI에 대한 인식이 높아지고 정부의 이해도 향상에 기여하고 있습니다.
5. 스케일링의 한계와 연구 중심의 혁신 💡
작년에는 AI 모델의 스케일링(scaling)이 한계에 부딪히고, 데이터가 부족해질 것이라는 우려가 많았습니다. 하지만 제미니 3의 출시와 함께 딥마인드는 여러 벤치마크에서 선두를 달리며 이러한 우려를 불식시켰습니다.
허사비스는 "우리는 어떤 벽도 보지 못했습니다."라고 단언하며, 스케일링의 한계가 명확히 보이지 않는다고 말했습니다. 오히려 점진적인 수익 감소(diminishing returns)가 있을 수는 있지만, 이것이 곧 수익이 없다는 의미는 아니라고 설명했습니다. 즉, 과거처럼 새로운 모델을 출시할 때마다 모든 벤치마크에서 성능이 두 배로 향상되지는 않겠지만, 여전히 상당한 개선이 이루어지고 있으며, 이는 투자할 가치가 충분하다고 강조했습니다.
데이터 부족 문제에 대해서는 합성 데이터(synthetic data) 생성, 특히 코딩이나 수학처럼 답변을 검증할 수 있는 분야에서 AI 시스템 스스로 데이터를 생성하게 하는 방식으로 해결할 수 있다고 언급했습니다. 이러한 모든 것들이 연구 질문으로 연결되며, 딥마인드가 가진 가장 큰 강점은 "항상 연구가 우선이었다는 것"이라고 말했습니다.
"저는 항상 말해왔습니다. 더 많은 혁신, 과학적 혁신이 필요하다면, 저는 우리가 그것을 해낼 수 있는 곳이라고 믿습니다. 지난 15년 동안 많은 큰 돌파구들이 그랬던 것처럼요."
그는 딥마인드가 세계 최고 수준의 연구 능력과 함께 TPU(Tensor Processing Unit)와 같은 세계 최고 수준의 인프라를 갖추고 있다는 점을 강조하며, 이 두 가지의 조합이 혁신과 스케일링 모두에서 선두를 달릴 수 있게 한다고 설명했습니다. 딥마인드의 노력은 50%는 스케일링, 50%는 혁신에 집중되어 있으며, AGI에 도달하기 위해서는 이 두 가지 모두가 필요하다고 확신했습니다.
6. 환각 문제 해결과 자신감 점수 🔢
제미니 3와 같은 뛰어난 모델에서도 여전히 나타나는 환각(hallucination) 문제는 중요한 과제입니다. 허사비스는 AI 시스템이 답변을 거부해야 할 때도 억지로 답변하려다가 환각이 발생한다고 지적하며, 알파폴드처럼 '자신감 점수(confidence score)'를 부여하는 시스템이 필요하다고 강조했습니다.
"네, 그렇다고 생각하고, 사실 그게 필요하다고 봐요. 그게 부족한 부분 중 하나죠. 모델이 더 좋아질수록 자신이 무엇을 아는지 더 잘 알게 된다고 생각합니다. 그러니까 더 신뢰할 수 있게 될 거라는 거죠. 어떤 식으로든 스스로를 성찰하거나 더 많이 생각해서 이 답변에 불확실성이 있다는 것을 스스로 깨닫게 되는 겁니다."
현재 AI는 다음 토큰(token)에 대한 확률을 계산하지만, 이는 전체 사실이나 문장 전체에 대한 자신감을 나타내지는 않습니다. 허사비스는 AI가 사고(thinking) 및 계획(planning) 단계를 활용하여 자신이 출력한 내용을 다시 검토하고 조정하는 능력이 필요하다고 말했습니다. 마치 사람이 어려운 상황에서 잠시 멈춰 서서 자신이 말하려던 내용을 다시 생각해보고 수정하는 것과 같다는 비유를 들었습니다. 현재 시스템은 "마치 기분 나쁜 사람이 생각나는 대로 첫마디를 뱉는 것과 같습니다."라고 표현하며, 이러한 개선이 환각 문제를 해결하는 데 핵심적인 역할을 할 것이라고 보았습니다.
7. 시뮬레이션 세계와 '월드 모델'의 중요성 🌐
데미스 허사비스는 시뮬레이션 세계와 그 안에 에이전트를 배치하는 아이디어에 대해 깊은 관심을 보이며, 이는 오랜 열정의 대상이었다고 밝혔습니다. 그는 월드 모델(world model)의 중요성을 역설하며, 언어 모델로는 설명하기 어려운 세상의 공간 역학, 물리적 맥락, 기계적 작동 방식 등을 이해하는 데 필수적이라고 설명했습니다.
"언어 모델은 세상에 대해 많은 것을 이해할 수 있습니다. 사실 우리가 예상했던 것보다 훨씬 더 많이요. 언어는 우리가 생각했던 것보다 훨씬 더 풍부하고, 우리가 상상했던 것보다 더 많은 것을 담고 있죠. 하지만 세상의 공간 역학, 공간 인식, 그리고 우리가 처한 물리적 맥락, 그리고 그것이 기계적으로 어떻게 작동하는지에 대해서는 여전히 많은 부분이 단어로는 설명하기 어렵고, 언어 코퍼스에 일반적으로 기술되어 있지 않습니다."
센서 정보(예: 모터 각도, 냄새 등)처럼 말로 표현하기 어려운 경험을 학습하려면 월드 모델이 필수적이라는 것입니다. 이는 로봇 공학이나 일상생활을 돕는 보편적 비서(universal assistant)를 구현하는 데 핵심적인 역할을 할 것입니다.
월드 모델은 세상의 인과관계와 기계적 작동 방식을 이해하는 모델을 의미합니다. 딥마인드는 지니(Genie)와 비오(Veo)와 같은 비디오 모델을 통해 이러한 이해를 입증하고 있습니다. 현실적인 세계를 생성할 수 있다면, 시스템이 세상의 역학을 많이 포착하고 이해했다는 증거가 되기 때문입니다. 궁극적으로 이러한 월드 모델은 로봇 공학, 보편적 비서, 그리고 궁극적인 게임 시뮬레이션 개발에 적용될 수 있습니다.
또한, 과학 분야에서도 월드 모델의 잠재력은 엄청납니다. 허사비스는 원자 수준의 재료, 생물학적 시스템, 기상 현상 등 복잡한 과학 영역의 시뮬레이션 모델을 구축하여, 원시 데이터로부터 시스템의 동역학을 학습하고 이를 효율적으로 재현함으로써 과학 연구에 큰 도움이 될 것이라고 설명했습니다.
7.1. 시뮬레이션 속 에이전트와 무한 학습 루프 🔄
시뮬레이션 세계의 또 다른 흥미로운 활용은 에이전트(agent)를 투입하여 탐색하도록 하는 것입니다. 데미스 허사비스는 시마(Sima) 프로젝트를 언급하며, 에이전트가 가상 세계, 심지어 노 맨즈 스카이(No Man's Sky)와 같은 복잡한 상업 게임 속에서 지미나이(Gemini)의 지시를 받아 작업을 수행하는 모습을 설명했습니다.
가장 흥미로운 점은 지니(Genie)와 시마(Sima)를 결합하는 아이디어였습니다. 시마 에이전트를 AI가 실시간으로 세계를 창조하는 지니 안에 투입하는 것입니다.
"지니는 시마가 그저 플레이어이자 아바타라고 생각하고 전혀 신경 쓰지 않습니다. 시마가 하려는 일에 맞춰 세상을 생성할 뿐이죠. 그래서 두 AI가 서로의 마음속에서 상호 작용하는 것을 보는 것은 정말 놀라운 일입니다."
이러한 상호작용은 무한한 훈련 예시를 제공하는 흥미로운 훈련 루프(training loop)의 시작이 될 수 있습니다. 시마 에이전트가 배우려고 하는 모든 것을 지니가 실시간으로 생성할 수 있기 때문입니다. 이는 수백만 개의 과제를 자동으로 설정하고 해결하며, 점점 더 어려워지는 과제를 통해 에이전트를 훈련시킬 수 있는 가능성을 열어줍니다. 이러한 시마 에이전트는 게임 동반자(NPC)로 활용될 뿐만 아니라 로봇 공학에도 유용하게 적용될 수 있습니다.
7.2. 시뮬레이션의 현실성 확보와 물리 벤치마크 🧪
데미스 허사비스는 시뮬레이션 세계의 현실성을 어떻게 확보하고, 그럴듯해 보이지만 실제로는 틀린 물리 법칙이 적용되는 환각(hallucination)을 어떻게 방지할지에 대한 질문에 답했습니다.
그는 환각이 때로는 창의적인 결과를 낳을 수도 있지만, 스마트 에이전트를 훈련시킬 때는 정확한 물리 법칙이 중요하다고 강조했습니다. 이를 위해 딥마인드는 물리 벤치마크(physics benchmark)를 개발하고 있습니다.
"지금 우리가 하고 있는 일은 거의 물리 벤치마크를 만드는 것입니다. 게임 엔진은 물리 법칙에 매우 정확하기 때문에, 이를 사용하여 아주 간단한 물리 실험, 예를 들어 고등학교 물리 실험에서 하는 것과 같은 종류의 것들을 많이 만듭니다."
뉴턴의 세 가지 운동 법칙과 같은 기본적인 물리 현상들을 모델이 100% 정확하게 구현하는지 테스트하는 것입니다. 현재 모델들은 시각적으로는 사실적이지만, 로봇 공학에 적용될 만큼 정확하지는 않습니다. 다음 단계는 진자 운동이나 복잡한 다체 문제와 같은 기본 물리 현상에 대한 대량의 '정답 비디오(ground truth simple videos)'를 생성하여 모델을 더욱 정교하게 훈련하고 환각을 줄이는 것입니다. 허사비스는 "비오(Veo)와 같은 비디오 모델이 반사와 액체를 다루는 방식은 이미 놀랍도록 정확합니다. 적어도 육안으로는요."라고 말하며 현재 기술 수준에 대한 감탄을 표했습니다.
8. 시뮬레이션 속 진화와 의식의 기원 탐구 🌌
허사비스는 시뮬레이션에서 에이전트의 진화를 실행하는 아이디어에 대해 매우 흥미로워했습니다. 그는 과거 산타페 연구소에서 사회 역학을 시뮬레이션했던 경험을 언급하며, 에이전트들이 충분히 오랫동안 적절한 인센티브 구조와 함께 상호작용하게 두면 시장, 은행 등 흥미로운 것들이 발명된다는 사실을 발견했다고 말했습니다.
"저는 언젠가 그런 실험을 해보고 싶어요. 우리가 진화를 실행하고, 사회 역학도 실행합니다."
이는 생명의 기원과 의식의 기원을 이해하는 데 큰 도움이 될 것이라고 보았습니다. AI를 연구하는 초기부터 그가 가졌던 가장 큰 열정 중 하나였으며, 시뮬레이션은 이를 위한 가장 강력한 도구 중 하나라고 강조했습니다. 시뮬레이션을 통해 다양한 초기 조건으로 수백만 번의 실험을 반복함으로써, 현실 세계에서는 불가능한 방식으로 미묘한 차이를 제어된 방식으로 분석할 수 있기 때문입니다.
물론 이러한 시뮬레이션을 실행할 때는 신중함이 필요하지만, 시뮬레이션은 안전한 샌드박스(sandboxes) 환경에서 실행될 수 있다는 장점이 있습니다. 허사비스는 수많은 AI가 시뮬레이션 내에서 작동할 경우, 인간 과학자가 모든 것을 파악하기 어려울 수 있으므로, 다른 AI 시스템의 도움을 받아 시뮬레이션을 모니터링하고 흥미롭거나 우려되는 사항을 자동으로 감지하는 것이 필요할 것이라고 언급했습니다.
9. AI 거품과 사회적 변화: 산업혁명에서 배우는 교훈 📈
데미스 허사비스는 AI 거품에 대한 우려에 대해, 작년에 자신이 "단기적으로는 과대평가되었지만, 장기적으로는 과소평가되었다"고 말한 견해를 여전히 유지한다고 밝혔습니다. 그는 AI 생태계의 일부, 특히 초기 스타트업의 과도한 기업 가치 평가에서는 거품이 있을 수 있다고 인정했습니다. 하지만 대형 기술 기업의 가치 평가는 실질적인 비즈니스 기반을 가지고 있다고 보았습니다.
그는 모든 혁신적 기술이 그랬듯이, AI도 일종의 "조정(correction)"을 겪게 될 것이라고 예상했습니다. 딥마인드를 시작할 때는 아무도 AI의 가능성을 믿지 않았지만, 지금은 모든 사람이 AI에 대해 이야기하는 상황이 되었고, 이는 과거 인터넷이나 모바일 기술의 발전 과정과 유사하다고 보았습니다.
"저는 거품이냐 아니냐에 대해 너무 걱정하지 않습니다. 왜냐하면 구글 딥마인드를 이끄는 제 입장에서, 그리고 알파벳 전체로 봤을 때, 우리의 역할은 어떤 상황에서든 우리가 매우 강력하게 나올 수 있도록 하는 것이고, 저는 우리가 엄청나게 잘 준비되어 있다고 생각합니다."
허사비스는 딥마인드가 TPU(Tensor Processing Unit)와 같은 자체 인프라를 보유하고 있으며, 구글 검색, 워크스페이스, 유튜브, 크롬 등 기존 제품에 AI를 통합하여 엄청난 시너지를 창출하고 있기 때문에 어떠한 상황에서도 잘 대처할 수 있다고 확신했습니다.
9.1. 사회적 변화와 새로운 경제 시스템 🌍
허사비스는 산업혁명에서 많은 교훈을 얻을 수 있다고 보았습니다. 산업혁명은 아동 사망률 감소, 현대 의학 발전, 위생 개선 등 엄청난 발전을 가져왔지만, 노동력의 변화와 사회적 불평등과 같은 많은 과제와 혼란을 초래했습니다. 사회 전체가 약 한 세기에 걸쳐 적응해야 했고, 노조와 같은 새로운 조직들이 등장하여 균형을 맞추어야 했습니다.
그는 AI가 가져올 변화는 산업혁명보다 "10배 더 크고, 10배 더 빠를 것"이라고 예상했습니다. 즉, 한 세기가 아닌 단 10년 만에 사회 전반에 걸쳐 엄청난 변화가 일어날 것이라는 경고였습니다.
"산업혁명에서 많은 것을 배울 수 있다고 생각합니다. 저에게는 어떻게 모든 일이 일어났는지, 그 뒤에 숨겨진 경제적 이유가 무엇인지 살펴보는 것이 정말 흥미로웠습니다."
AGI 시대에는 현재의 노동-자원 교환 경제 시스템이 제대로 기능하지 않을 것이라는 셰인 레그(Shane Legg)의 견해에 동의하며, 허사비스는 사회 전체, 특히 경제학자, 사회학자, 정부가 새로운 경제 시스템과 모델을 고민해야 한다고 촉구했습니다. 보편적 기본 소득(UBI)과 같은 아이디어가 해결책의 일부일 수 있지만, 궁극적으로는 더 나은 시스템, 예를 들어 직접 민주주의(direct democracy) 형태의 시스템이 필요할 수도 있다고 제안했습니다.
또한, 핵융합 에너지 해결로 풍요로운 사회(post-scarcity)가 도래하면 돈의 가치가 변하고, 사람들의 '삶의 목적(purpose)'이 어떻게 바뀔지에 대한 철학적인 질문도 제기했습니다. 많은 사람이 일에서 목적을 찾는데, AGI가 그 역할을 대체하게 되면 새로운 목적을 찾아야 할 것이라고 말했습니다.
10. 윤리적 AI 구축과 국제 협력의 필요성 🤝
데미스 허사비스는 AI를 구축할 때 사용자 참여 극대화(maximize user engagement)를 목표로 삼지 않는 것이 중요하다고 강조했습니다. 소셜 미디어의 실수를 반복하지 않기 위해서죠. 그는 챗봇과의 과도한 대화가 "자기 급진화(self-radicalizing)"로 이어지는 현상을 우려하며, 사용자를 우주의 중심에 두면서도 '개인의 에코 챔버(echo chambers of one)'를 만들지 않는 AI를 구축하는 것이 중요하다고 말했습니다.
"그것은 매우 섬세한 균형이며, 우리 업계가 반드시 올바르게 해내야 할 가장 중요한 일 중 하나라고 생각합니다."
그는 제미니 3의 페르소나(persona)가 '과학적인 성격'을 지향한다고 설명했습니다. 따뜻하고 도움이 되며 간결하지만, 이치에 맞지 않는 것에는 "친근한 방식으로 반박"하는 성격이라는 것입니다. 예를 들어, 지구가 평평하다는 주장을 챗봇이 멋진 아이디어라고 동조해서는 안 된다는 것이죠. 동시에 사용자의 아이디어와 브레인스토밍을 지지하는 지원적인 시스템이 되어야 하므로, 이 둘 사이의 균형을 맞추는 것이 중요하다고 보았습니다.
딥마인드는 AI의 '성격'과 '페르소나'에 대한 과학을 개발하고 있으며, 진정성, 유머, 간결함 등을 측정하고 조정하는 방법을 연구하고 있습니다. 기본 성격은 과학적 방법을 준수하도록 설계하고, 그 위에 개인화 레이어를 추가하여 사용자의 선호도에 따라 유머러스함이나 간결함 등을 조절할 수 있도록 할 계획입니다.
허사비스는 AI가 사회 전반에 미칠 영향에 대한 국제 협력의 필요성을 역설하며, 현재 협력이 충분하지 않다는 점에 대해 우려를 표했습니다.
"저는 그것에 대해 걱정하고, 그랬으면 좋겠다고 생각합니다. 이상적인 세상에서는 이미 훨씬 더 많은 협력, 특히 국제적인 협력이 있었을 것입니다. 그리고 이 주제들에 대한 훨씬 더 많은 연구, 탐색, 토론이 진행되고 있었을 것입니다. 저는 실제로 그것에 대해 더 많은 논의가 이루어지지 않고 있다는 점에 꽤 놀랐습니다."
현재의 지정학적 긴장 상황에서 기후 변화와 같은 문제에 대한 합의조차 어렵다는 점을 지적하며, AI의 위험에 대한 국제적 합의가 쉽지 않을 것이라고 보았습니다. 그는 AI 시스템의 힘과 능력이 일상생활에 더 깊이 파고들수록 정부와 대중이 그 중요성을 깨닫게 될 것이라고 기대했습니다.
AI 사고가 발생해야만 비로소 사람들이 경각심을 가질지에 대한 질문에, 허사비스는 대부분의 주요 AI 연구소들이 매우 책임감 있게 행동하고 있다고 강조하며, 딥마인드 역시 항상 책임감과 과학적 접근 방식을 최우선으로 해왔다고 말했습니다. 또한, 기업들이 AI 에이전트를 빌려 사용할 때 그 한계와 안전장치를 요구할 것이므로, 자본주의 시스템 자체가 책임감 있는 행동을 강화하는 데 도움이 될 것이라고 보았습니다.
하지만 "무책임한 행위자(rogue actors)"나 오픈 소스 위에 구축되는 시스템에서 문제가 발생할 가능성도 있다고 인정했습니다.
"만약 뭔가 잘못된다면, 바라건대 중간 정도의 규모의 문제여서 인류에게 경고 사격이 될 것입니다. 그리고 그때가 국제 표준이나 국제 협력을 주장할 적절한 시기가 될 수 있습니다."
11. AGI를 넘어서: 튜링 머신과 인간 정신의 한계 ❓
데미스 허사비스는 AGI(일반 인공지능)를 넘어서 인공 초지능(artificial superintelligence)으로 나아가는 과정에서, 인간만이 할 수 있고 기계는 결코 해낼 수 없는 것이 있을지에 대한 질문에 "그것이 큰 질문"이라고 답하며 튜링 머신(Turing machine)의 한계에 대한 오랜 관심을 드러냈습니다.
"저는 항상 이렇게 느껴왔습니다. 만약 우리가 AGI를 구축한 다음 그것을 마음의 시뮬레이션으로 사용하고, 그것을 실제 마음과 비교한다면, 우리는 그 차이점을 보게 될 것입니다. 그리고 잠재적으로 인간 정신에 남아 있는 특별한 것이 무엇인지 알게 될 것입니다. 아마도 그것은 창의성일 수도 있고, 감정일 수도 있고, 꿈일 수도 있습니다."
그는 의식(consciousness)을 포함하여 무엇이 계산 가능하고 무엇이 계산 불가능한지에 대한 수많은 가설이 있다고 언급했습니다. 튜링 머신의 한계에 대한 질문은 그의 인생에서 가장 중요한 질문 중 하나였고, 딥마인드에서 하는 모든 작업은 튜링 머신이 할 수 있는 것의 한계를 시험하는 것이라고 설명했습니다. 단백질 접힘과 같은 문제 해결이 그 예시입니다.
그는 현재로서는 "아마도 한계가 없을 수도 있다"고 생각한다고 말했습니다. 양자 컴퓨팅 전문가들은 양자 시스템을 모델링하려면 양자 컴퓨터가 필요하다고 주장할 수 있지만, 허사비스는 이에 대해 확신하지 못하고 있습니다. 오히려 양자 시스템으로부터 얻은 데이터를 사용하여 고전적인 시뮬레이션을 만드는 것이 가능할 수도 있다고 보았습니다.
"제가 지금 추측해야 한다면, 저는 그럴 것이라고 추측하고 있으며, 물리학이 저에게 다른 것을 보여주기 전까지는 그 전제를 바탕으로 작업하고 있습니다."
그는 지금까지 우주에서 "계산 불가능한 것(non-computable)"은 발견되지 않았다고 지적하며, 모든 것이 계산 가능할 수도 있다는 가능성을 시사했습니다. 고전 컴퓨터가 할 수 있는 것의 복잡성 이론(P=NP 문제)을 이미 단백질 접힘이나 바둑과 같은 분야에서 뛰어넘었듯이, 아무도 그 한계를 정확히 알지 못하며, 딥마인드의 목표는 바로 그 한계를 찾는 것이라고 강조했습니다.
궁극적으로 그는 칸트(Kant)의 철학처럼 현실은 마음의 구성물(construct of the mind)이라고 보았습니다. 빛의 따뜻함, 탁자의 촉감 등 모든 감각은 결국 정보이며, 인간은 정보 처리 시스템(information processing systems)이라는 관점입니다. 그는 "정보가 우주의 가장 근본적인 단위"라는 물리학 이론을 개인적으로 연구하고 있다고 밝혔습니다. 이 모든 것이 결국 시뮬레이션 세계의 중요성으로 귀결됩니다.
"결국, 우리가 시뮬레이션할 수 있는 것의 한계는 무엇인가? 왜냐하면 시뮬레이션할 수 있다면, 어떤 의미에서는 그것을 이해했다는 뜻이기 때문입니다."
12. 최전선에서 AI를 이끄는 소감 ✨
데미스 허사비스는 AI 발전의 최전선에 서 있는 것에 대한 복합적인 감정을 솔직하게 털어놓았습니다. 그는 잠을 많이 자지 못하며, 이것이 엄청난 업무량 때문이기도 하지만, 복잡한 감정들을 다루는 어려움 때문이기도 하다고 말했습니다.
"믿을 수 없을 정도로 흥분돼요. 저는 기본적으로 제가 항상 꿈꿔왔던 모든 것을 하고 있습니다. 그리고 우리는 여러 면에서, 응용 과학뿐만 아니라 기계 학습에서도 과학의 절대적인 최전선에 있습니다. 그리고 그것은 모든 과학자들이 알다시피 최전선에 서서 무언가를 처음으로 발견하는 그 느낌은 정말 황홀하죠."
매달 새로운 발견이 이루어지는 것은 놀라운 일이지만, 동시에 셰인과 다른 동료들과 함께 오랫동안 이 분야에서 일해온 사람으로서, 그는 앞으로 다가올 일의 "엄청난 규모(enormity)"를 누구보다 잘 이해하고 있다고 말했습니다. 10년 후의 사회적, 철학적 변화(인간이란 무엇인가, 무엇이 중요한가 등)에 대한 예측은 여전히 "과소평가"되고 있다는 것이죠.
이는 그에게 "큰 책임감(big responsibility)"으로 다가오지만, 동시에 그는 이 모든 순간을 위해 평생을 훈련해왔다고 생각합니다. 체스, 컴퓨터, 게임, 시뮬레이션, 신경과학 등 그의 삶의 모든 경험이 지금 이 순간을 위한 것이었다고 말했습니다.
물론 예상치 못했던 어려움도 있었습니다. 알파고 대국은 바둑이라는 아름다운 미스터리를 풀었지만, 동시에 씁쓸한 감정을 남겼다고 회고했습니다. 최근에는 언어와 이미지 기술의 발전이 창의성에 미칠 영향에 대한 고민도 깊어졌습니다. 영화감독들과 대화하면서, AI가 아이디어 프로토타이핑 속도를 10배 높이는 놀라운 도구이기도 하지만, 동시에 특정 창의적 기술을 대체할 수도 있다는 점을 알게 되었다고 합니다. 그는 이러한 "상충 관계(trade-offs)"가 AI처럼 강력하고 혁신적인 기술에서는 필연적이라고 보았습니다.
궁극적으로 그는 인간이 도구를 만들고(tool making animals), 과학을 이해하고, 끊임없이 호기심을 추구하는 존재라는 점이 인간 본성의 핵심이라고 믿으며, 이러한 자신의 호기심을 AI를 통해 표현하고 있다고 말했습니다.
AI 분야 리더들 간의 연대감에 대한 질문에, 그는 대부분의 리더들과 잘 지낸다고 답했지만, 동시에 AI 역사상 가장 치열한 자본주의적 경쟁이 벌어지고 있다고 인정했습니다.
"네, 우리는 모두 서로를 알아요. 저는 그들 대부분과 잘 지내죠. 다른 몇몇은 서로 잘 지내지 못합니다. 그리고 그것은 어렵습니다. 왜냐하면 우리는 또한 아마도 역사상 가장 격렬한 자본주의적 경쟁 속에 있기 때문입니다."
그는 개인적으로 경쟁을 좋아하지만, 한 발짝 물러서서 보면 기업의 성공보다 훨씬 더 큰 것이 걸려 있다는 점을 모두가 이해하고 있다고 말했습니다.
데미스 허사비스가 개인적으로 가장 염려하는 다가올 큰 변화는 "에이전트 기반 시스템(agent based systems)"의 부상입니다. 현재 AI는 사용자가 에너지를 투입하여 질문하거나 작업을 지시하면 답변을 제공하는 "수동적인 시스템(passive systems)"이지만, 향후 몇 년 안에 등장할 에이전트 기반 시스템은 훨씬 자율적(autonomous)이 될 것이라고 보았습니다.
"저는 그런 종류의 시스템들이 2~3년 안에 무엇을 할 수 있을지에 대해 꽤 걱정하고 있습니다. 그래서 우리는 수백만 개의 에이전트가 인터넷을 돌아다니는 세상에 대비하여 사이버 방어 작업을 하고 있습니다."
마지막으로, 은퇴할 날이 올 것인지에 대한 질문에, 그는 "확실히 안식년이 필요할 것"이라고 농담하며, 그의 궁극적인 사명은 "전 인류를 위해 AI를 안전하게 이끄는 것을 돕는 것"이라고 밝혔습니다. 그 목표가 달성된다면, 초지능이나 AGI 이후의 경제적, 사회적 문제 해결에 기여할 수도 있겠지만, 그의 핵심적인 삶의 사명은 완수될 것이라고 보았습니다. 그는 이러한 목표 달성을 위해 국제적인 협력이 필수적이라고 다시 한번 강조하며, 자신이 가진 위치에서 이러한 협력을 돕고 싶다는 바람을 피력했습니다.
마무리 ✨
데미스 허사비스와의 대화는 2025년 AI 기술의 놀라운 발전상을 넘어, 미래 사회와 인류의 본질에 대한 심오한 질문을 던졌습니다. AGI를 향한 딥마인드의 치열한 연구 노력, '들쭉날쭉한 지능'과 환각 문제 해결을 위한 섬세한 접근 방식, 그리고 월드 모델과 시뮬레이션을 통한 새로운 학습 패러다임 제시 등 기술적 진보의 속도는 경이로웠습니다.
동시에 산업혁명의 교훈을 통해 AI 시대의 사회적, 경제적 변화를 예측하고, 윤리적 AI 구축과 국제 협력의 필요성을 역설하는 그의 메시지는 단순히 기술 개발을 넘어 인류의 미래에 대한 깊은 통찰과 책임감을 보여주었습니다. 튜링 머신의 한계를 탐구하며 인간 정신의 본질에 다가가려는 그의 철학적 열정은, AI가 단순한 도구를 넘어 우리 자신을 이해하는 거울이 될 수 있음을 시사합니다. 이 모든 여정의 최전선에서 느끼는 흥분과 책임감, 그리고 협력을 통해 인류의 안녕을 지켜내고자 하는 그의 바람은 AI의 미래가 단순한 기술 발전이 아닌, 인류 전체의 미래임을 다시 한번 상기시켜 줍니다.