데미스 하사비스: AI의 미래, 현실 시뮬레이션, 물리학 그리고 비디오 게임

이 영상은 구글 딥마인드의 CEO이자 AI를 활용한 단백질 구조 예측 분야에서 획기적인 업적으로 노벨상을 수상한 데미스 하사비스와의 대담을 담고 있습니다. 그는 AI의 미래, 현실 시뮬레이션, 물리학, 그리고 비디오 게임에 대한 깊이 있는 통찰을 공유하며, 인공지능이 인류의 가장 근본적인 질문에 답하는 데 어떻게 기여할 수 있는지 탐구합니다. 특히, 자연의 학습 가능한 패턴과 P=NP 문제, 그리고 AGI(범용 인공지능)의 발전 경로에 대한 그의 독특한 관점이 돋보입니다.

1. 자연의 학습 가능한 패턴과 P=NP 문제

데미스 하사비스는 노벨상 강연에서 "자연에서 생성되거나 발견될 수 있는 모든 패턴은 고전적 학습 알고리즘에 의해 효율적으로 발견되고 모델링될 수 있다"는 흥미로운 가설을 제시했습니다. 그는 이 가설이 생물학, 화학, 물리학, 심지어 우주론까지 포함할 수 있다고 설명합니다. 알파고와 알파폴드 프로젝트를 통해 보여주었듯이, 엄청나게 복잡한 조합 공간에서도 효율적인 모델을 구축하여 해답을 찾을 수 있다는 것이 그의 주장입니다.

그는 단백질 접힘 현상을 예로 들며, 자연이 수 밀리초 만에 이 복잡한 문제를 해결하는 것처럼, AI도 이를 계산적으로 해결할 수 있다고 말합니다. 이는 자연 시스템이 진화 과정을 통해 구조를 형성했기 때문이며, 이러한 구조는 신경망을 통해 학습될 수 있다는 것입니다. 그는 이를 "가장 안정적인 것의 생존(survival of the stablest)"이라고 표현하며, 지질학적 시간 규모에서 산의 형태나 행성의 궤도와 같은 현상도 유사한 선택 압력에 의해 형성된 패턴을 가지고 있다고 설명합니다. 이러한 패턴은 무작위적이지 않기 때문에 효율적으로 학습될 수 있으며, 이는 고전적 시스템(튜링 머신)으로도 해결 가능한 문제의 범위를 넓힌다고 강조합니다.

렉스 프리드먼은 이러한 관점에서 학습 가능한 자연 시스템(LNS)이라는 새로운 복잡성 클래스를 제안하며, 하사비스는 이에 대해 깊은 관심을 표합니다. 그는 우주를 정보 시스템으로 이해하며, P=NP 문제가 물리학의 근본적인 질문 중 하나라고 생각합니다. 그는 AI 커뮤니티가 고전적 시스템이 이전에 생각했던 것보다 훨씬 더 많은 일을 할 수 있음을 증명했다고 말하며, 단백질 구조 모델링이나 바둑에서 세계 챔피언 수준을 능가하는 능력이 그 예라고 덧붙입니다.

하사비스는 혼돈 시스템과 같이 초기 조건에 민감한 일부 시스템은 모델링하기 어려울 수 있지만, 대부분의 자연 시스템은 학습 가능한 구조를 가지고 있다고 믿습니다. 그는 구글 딥마인드의 비디오 생성 모델인 Veo 3가 유체 역학, 재료, 빛의 반사 등을 놀랍도록 잘 모델링하는 것을 보며, 이는 우주의 근본적인 구조에 대한 중요한 단서를 제공한다고 생각합니다. 그는 AGI를 구축하는 궁극적인 목표가 바로 이러한 P=NP와 같은 과학적 질문에 답하는 데 있다고 말합니다.

2. Veo 3와 현실 이해

Veo 3의 물리적 모델링 능력은 렉스 프리드먼과 데미스 하사비스 모두에게 깊은 인상을 주었습니다. 특히 유체, 재료, 빛의 반사 등을 놀랍도록 사실적으로 구현하는 능력은 AI가 단순히 데이터를 모방하는 것을 넘어, 세상에 대한 이해를 가지고 있음을 시사합니다. 하사비스는 Veo 3가 다음 프레임을 일관성 있게 예측할 수 있는 정도가 바로 이해의 한 형태라고 설명합니다. 이는 인간의 깊은 철학적 이해와는 다르지만, 시스템이 충분한 역학을 모델링하여 사실적인 비디오를 생성할 수 있다는 점에서 의미가 있습니다.

그는 2~3년 안에 Veo 3와 같은 시스템이 얼마나 더 발전할지 상상하며, 초기 버전과 비교했을 때의 놀라운 발전 속도를 강조합니다. 특히, 인간의 행동이나 몸짓 언어를 잘 포착하는 능력도 뛰어나지만, 그를 가장 매료시키는 것은 물리학적 행동, 즉 빛과 재료, 액체의 움직임을 모델링하는 능력이라고 말합니다. 이는 시스템이 최소한 직관적인 물리학에 대한 개념을 가지고 있음을 보여주며, 마치 어린아이가 물리학을 이해하는 방식과 유사하다고 비유합니다.

렉스 프리드먼은 이러한 직관적인 물리학 이해가 바로 '상식'의 기반이며, 이는 많은 사람들을 놀라게 한 부분이라고 말합니다. 그는 물리적 세계를 이해하기 위해서는 로봇처럼 세상과 상호작용하는 '구현된 AI(embodied AI)' 시스템이 필요하다는 기존의 통념에 Veo 3가 도전하고 있다고 지적합니다. 하사비스는 5~10년 전만 해도 자신 역시 구현된 지능이 필요하다고 생각했지만, 이제는 수동적인 관찰만으로도 직관적인 물리학을 이해할 수 있다는 사실이 놀랍다고 인정합니다. 그는 이것이 현실의 본질에 대한 근본적인 단서를 제공하며, 궁극적으로는 AGI 시스템에 필요한 '세계 모델(world model)' 구축으로 이어질 것이라고 전망합니다.

3. 비디오 게임의 미래와 AI의 역할

데미스 하사비스는 비디오 게임에 대한 깊은 애정을 드러내며, 게임이 그의 첫사랑이자 AI 연구의 시작점이었다고 말합니다. 그는 1990년대에 자신이 만들었던 오픈 월드 게임처럼, AI가 플레이어의 상상력에 따라 역동적으로 스토리를 변화시키고 내러티브를 드라마틱하게 만들 수 있는 궁극적인 '선택형 어드벤처 게임'을 꿈꿉니다. 그는 Veo의 인터랙티브 버전이 5~10년 안에 이러한 꿈을 현실로 만들 수 있을 것이라고 예측합니다.

그는 오픈 월드 게임의 핵심이 깊은 개인화에 있다고 설명합니다. 단순히 문을 열면 무언가가 있는 것이 아니라, 플레이어의 선택이 제약 없이 세계를 정의하는 방식이 되어야 한다는 것입니다. 과거에는 이러한 게임을 프로그래밍하기가 매우 어려웠고, 셀룰러 오토마타와 같은 시스템도 한계가 있었다고 회상합니다. 하지만 이제 AI 시스템은 게임 자산을 무한정 생성하고, 플레이어의 행동에 따라 스토리를 실시간으로 조정할 수 있게 될 것이라고 말합니다. 그는 자신이 작업했던 '블랙 앤 화이트(Black & White)' 게임을 예로 들며, 플레이어의 행동이 게임 속 생명체의 행동에 반영되는 강화 학습 시스템이 이미 초기 형태의 개인화를 구현했다고 설명합니다.

하사비스는 AI가 지루하고 어려운 작업을 대신하게 되면, 비디오 게임이 인간이 의미를 찾고 시간을 보내는 중요한 활동이 될 수 있다고 강조합니다. 게임은 상상력을 마음껏 펼칠 수 있는 공간이며, 특히 1980년대와 90년대는 게임 산업의 황금기로 새로운 장르와 엔터테인먼트 매체가 끊임없이 발견되던 시기였다고 회상합니다. 그는 게임이 예술적 디자인과 최첨단 프로그래밍을 융합하는 분야이며, AI, 그래픽, 물리 엔진, 하드웨어 등 컴퓨팅 발전을 이끌어온 선두에 있었다고 말합니다.

렉스 프리드먼은 데미스 하사비스와 일론 머스크가 모두 게임에 대한 열정을 가지고 있다는 점을 언급하며, AI 회사 리더십과 게임 실력 사이의 연관성에 대해 질문합니다. 하사비스는 자신과 일론 모두 게임을 통해 프로그래밍을 배웠으며, 게임이 예술과 과학을 융합하는 다학제적 노력을 가능하게 했다고 답합니다. 그는 AGI가 안전하게 세상에 안착된 후, 게임 개발과 물리학 이론 연구를 자신의 '포스트 AGI 프로젝트'로 삼고 싶다는 꿈을 밝힙니다.

4. 알파이볼브와 AI 연구의 미래

데미스 하사비스는 구글 딥마인드의 '알파이볼브(AlphaEvolve)'를 최근 가장 놀라운 성과 중 하나로 꼽습니다. 알파이볼브는 LLM(대규모 언어 모델)이 가능한 솔루션을 제안하고, 그 위에 진화 컴퓨팅을 적용하여 새로운 탐색 공간을 찾는 방식으로 알고리즘을 진화시키는 시스템입니다. 하사비스는 이러한 LLM과 다른 계산 기술(예: 몬테카를로 트리 탐색)을 결합한 하이브리드 시스템이 매우 유망한 방향이라고 강조합니다.

그는 시스템의 근본적인 핵심을 '기저 역학 모델'과 '탐색 과정'으로 나눕니다. 모델은 현재 알려진 모든 데이터를 모델링하지만, 새로운 것을 발견하려면 탐색 과정이 필요하다는 것입니다. 알파고가 몬테카를로 트리 탐색을 통해 '수 37'과 같은 새로운 전략을 발견했듯이, 알파이볼브는 진화 컴퓨팅을 통해 새로운 영역을 탐색합니다. 이는 시스템이 창의성을 발휘하고 새로운 것을 발견하는 능력과 직결되며, 과학적 발견이나 의학 발전에 매우 중요하다고 설명합니다.

하사비스는 진화 시스템이 '돌연변이'와 '조합'을 통해 점점 더 복잡한 계층적 시스템을 구축하는 데 탁월하다고 말합니다. 특히 알파이볼브와 같은 시스템은 기존의 진화 컴퓨팅이 해결하지 못했던 '새로운 속성'이나 '창발적 능력'을 진화시키는 데 기여할 수 있다고 기대합니다. 자연 진화가 박테리아에서 인간에 이르기까지 새로운 능력을 진화시켰듯이, AI 시스템도 이러한 능력을 갖게 될 것이라고 전망합니다.

렉스 프리드먼은 AI 시스템이 '연구 취향(research taste)'을 가질 수 있는지에 대해 질문합니다. 하사비스는 이것이 가장 모방하기 어려운 부분 중 하나라고 답합니다. 훌륭한 과학자는 기술적으로 뛰어나지만, 올바른 방향, 올바른 실험, 올바른 질문을 찾아내는 '취향'이나 '판단력'이 중요하다고 말합니다. 그는 "좋은 가설을 세우는 것이 그것을 해결하는 것보다 더 어렵다"고 강조하며, 현재의 AI 시스템은 이러한 종류의 창의적인 도약을 할 수 없다고 인정합니다. 하지만 그는 AI가 가설 공간을 효율적으로 분할하고, 실패하더라도 유용한 정보를 얻을 수 있는 방식으로 실험을 설계하는 데 도움을 줄 수 있다고 말합니다.

5. 생물학적 유기체 시뮬레이션과 생명의 기원

데미스 하사비스의 오랜 꿈 중 하나는 세포를 모델링하는 것입니다. 그는 이 프로젝트를 '가상 세포(virtual cell)'라고 부르며, 25년 전부터 이 아이디어를 가지고 있었다고 말합니다. 그의 목표는 가상 세포에서 실험을 수행하여 실제 실험실에서의 시간과 노력을 100배 단축하는 것입니다. 알파폴드가 단백질의 정적 3D 구조를 해결했다면, 알파폴드 3는 단백질-단백질, 단백질-RNA/DNA 상호작용과 같은 동역학을 모델링하는 첫걸음입니다. 궁극적으로는 암과 관련된 TOR 경로와 같은 전체 경로를 모델링하고, 나아가 전체 세포를 시뮬레이션하는 것이 목표입니다. 그는 가장 단순한 단세포 유기체인 효모 세포부터 시작할 것이라고 언급합니다.

렉스 프리드먼은 세포 내에서 다른 시간 척도로 발생하는 복잡한 현상(예: 단백질 접힘은 매우 빠르고, 다른 메커니즘은 오래 걸림)에 대해 질문합니다. 하사비스는 이를 모델링하기 위해 여러 시뮬레이션 시스템이 필요하거나, 계층적 시스템을 통해 다른 시간 단계를 오갈 수 있어야 할 것이라고 답합니다. 그는 모델링의 '세분화 수준'을 결정하는 것이 중요하며, 세포의 경우 단백질 수준에서 모델링하는 것이 목표라고 말합니다. 이를 통해 양자 역학적 측면까지 내려가지 않고도 필요한 동역학을 포착할 수 있을 것이라고 기대합니다.

하사비스는 AI가 생명의 기원을 시뮬레이션하는 데 도움을 줄 수 있을 것이라고 낙관합니다. 그는 이를 "조합 공간을 통한 탐색 과정"으로 비유하며, 초기 지구의 화학적 환경에서 세포와 같은 것이 어떻게 출현할 수 있었는지 시뮬레이션할 수 있을 것이라고 말합니다. 그는 생명과 비생명 사이의 명확한 경계선이 없으며, 빅뱅부터 현재까지 모든 것이 동일한 과정의 연속이라는 관점을 가지고 있습니다. 그는 AI가 이러한 근본적인 질문에 답하는 궁극적인 도구가 될 것이라고 믿으며, 사람들이 이러한 심오한 미스터리에 대해 더 많이 고민해야 한다고 강조합니다.

그는 구글 딥마인드의 '웨더넥스트(WeatherNext)' 시스템이 세계 최고의 날씨 예측 시스템을 구축한 것을 예로 들며, 복잡하고 거의 혼돈에 가까운 시스템도 신경망으로 모델링할 수 있음을 보여주었다고 말합니다. 이는 사이클론 경로 예측과 같이 실생활에 매우 중요한 응용 분야에서 AI의 잠재력을 보여줍니다.

6. AGI로 가는 길과 스케일링 법칙

데미스 하사비스는 AGI(범용 인공지능)가 향후 5년 이내, 즉 2030년까지 50%의 확률로 도달할 수 있다고 예측합니다. 그는 AGI의 정의를 뇌가 가진 모든 인지 기능을 일치시키는 것으로 매우 높게 설정합니다. 현재의 AI 시스템은 특정 분야에서는 뛰어나지만, 다른 분야에서는 결함이 있는 '들쭉날쭉한 지능(jagged intelligence)'을 가지고 있다고 지적하며, AGI는 모든 영역에서 일관된 지능을 보여야 한다고 말합니다. 또한, 진정한 발명 능력과 창의성도 갖춰야 한다고 강조합니다.

AGI를 테스트하는 방법으로는 수만 가지의 인지 과제를 수행하게 하거나, 세계 최고의 전문가 수백 명에게 시스템을 제공하여 한두 달 동안 명백한 결함을 찾게 하는 방법을 제안합니다. 그는 '수 37'과 같은 '등대 같은 순간(lighthouse moments)'을 AGI의 중요한 징후로 꼽습니다. 예를 들어, 아인슈타인처럼 1900년 이전의 지식만으로 특수 상대성 이론이나 일반 상대성 이론을 발견할 수 있는지, 또는 바둑처럼 깊고 아름다운 게임을 스스로 발명할 수 있는지 등을 테스트할 수 있다고 말합니다.

하사비스는 AGI로 가는 길이 단순히 컴퓨팅 스케일링만으로 이루어지지 않을 것이라고 생각합니다. 그는 사전 학습, 사후 학습, 추론 시간 등 세 가지 스케일링이 동시에 진행되고 있으며, 구글 딥마인드는 연구 혁신을 통해 이러한 스케일링을 최대한으로 추진하고 있다고 말합니다. 그는 "지형이 더 어려워질 때"를 좋아한다고 말하며, 이는 단순히 엔지니어링을 넘어 진정한 연구가 필요한 시점이기 때문이라고 설명합니다. 그는 지난 10~15년간 현대 AI 분야의 80~90%에 해당하는 혁신이 구글 브레인, 구글 리서치, 딥마인드에서 나왔다고 자부하며, 앞으로도 이러한 혁신을 이끌어낼 것이라고 확신합니다.

데이터 부족에 대한 우려에 대해서는, 충분한 양질의 데이터가 존재하며, 시뮬레이션을 통해 더 많은 합성 데이터를 생성할 수 있기 때문에 크게 걱정하지 않는다고 말합니다. 그는 AI 시스템이 더 똑똑해질수록 더 유용해지고 수요가 증가할 것이며, 이는 컴퓨팅 수요를 더욱 증가시킬 것이라고 예측합니다.

7. 에너지의 미래와 인류 문명

데미스 하사비스는 컴퓨팅 스케일링의 핵심 요소인 에너지 문제에 깊은 관심을 보입니다. 그는 미래의 주요 에너지원으로 핵융합과 태양광을 꼽습니다. 태양광의 경우 배터리와 송전 문제가 해결되면 더욱 효율적인 에너지원이 될 것이며, 핵융합은 올바른 원자로 설계와 플라즈마 제어 기술이 확보되면 충분히 실현 가능하다고 봅니다. 그는 이 두 가지가 "재생 가능하고 깨끗하며 거의 무료인 에너지원"이 될 것이라고 예측합니다.

그는 에너지가 거의 무료가 되면 인류 문명에 엄청난 변화가 올 것이라고 전망합니다. 예를 들어, 해수 담수화 비용이 저렴해져 물 부족 문제가 해결되고, 바닷물을 수소와 산소로 분리하여 로켓 연료로 사용할 수 있게 되어 우주 탐사가 활성화될 것이라고 말합니다. 이는 소행성 채굴과 같은 새로운 자원 확보로 이어져 인류의 번영을 극대화할 수 있다고 봅니다. 그는 칼 세이건의 "우주를 깨우는(waking up the universe)" 아이디어를 언급하며, AI를 통해 인류 문명이 우주에 의식을 불어넣는 역할을 할 수 있을 것이라고 꿈꿉니다.

하사비스는 자원 제약이 사라지면 인류 역사상 처음으로 '제로섬(zero-sum)' 상황에서 벗어날 수 있을 것이라고 말합니다. 이는 토지나 자원을 놓고 벌어지는 갈등을 줄이는 데 기여할 수 있으며, '급진적 풍요(radical abundance)'의 시대를 열 수 있다고 봅니다. 물론 인간 본연의 문제(예: 갈등)는 여전히 존재하겠지만, 자원 부족이라는 큰 갈등 요인이 사라지면 많은 문제가 해결될 것이라고 기대합니다.

8. 인간 본성과 AI 시대의 의미

데미스 하사비스는 인간 본성에 내재된 갈등 요소를 인정하며, 비디오 게임이나 스포츠가 이러한 에너지를 건설적인 방향으로 전환하는 역할을 할 수 있다고 말합니다. 그는 축구를 예로 들며, 소속감에 대한 인간의 욕구를 건강한 방식으로 해소하는 수단이라고 설명합니다. 또한, 체스나 포커와 같은 게임은 현실 세계의 축소판 시뮬레이션으로서 의사 결정 능력을 향상시키고, 실패를 통해 배우는 안전한 환경을 제공한다고 강조합니다. 그는 패배를 통해 겸손함을 배우고, 끊임없이 개선하려는 동기를 얻는 것이 중요하다고 말합니다.

렉스 프리드먼은 게임에서 '레벨업'하는 것처럼, 인간이 '향상'하는 과정에서 깊은 의미와 행복을 찾는다고 말합니다. 하사비스는 이에 동의하며, "숙달(mastery)"이야말로 가장 만족스러운 경험 중 하나라고 덧붙입니다.

9. 구글과 AGI 경쟁

데미스 하사비스는 지난 1년간 구글 딥마인드가 LLM 제품 분야에서 '지고 있다'는 평가에서 '이기고 있다'는 평가로 전환된 것에 대해 이야기합니다. 그는 이를 "절대적으로 놀라운 팀"의 노력 덕분이라고 말하며, 구글 브레인과 기존 딥마인드의 최고 인재와 아이디어를 결합하여 최고의 시스템을 만들었다고 설명합니다. 그는 구글 딥마인드가 "끊임없는 발전과 끊임없는 출시"를 통해 성공을 거두고 있다고 강조합니다.

그는 구글과 같은 거대 기업의 관료주의를 극복하는 것이 도전 과제였지만, 딥마인드를 스타트업처럼 운영하며 신속한 의사 결정과 에너지를 유지했다고 말합니다. 그는 세계 최고 수준의 연구를 수행하면서 동시에 수십억 명의 사용자에게 AI 기술을 적용하여 삶을 개선할 수 있는 구글의 독특한 강점을 강조합니다.

하사비스는 AI 기술이 아직 일반 대중에게는 생소할 수 있지만, 구글 지도나 검색과 같은 제품의 기반 기술로 활용되어 사용자에게는 원활하게 느껴지도록 하는 것이 목표라고 말합니다. 그는 AI 기반 제품을 만드는 데 있어 자신의 게임 디자인 경험이 큰 도움이 되었다고 설명하며, 최첨단 연구와 제품 적용의 결합을 즐긴다고 말합니다. 그는 AI 제품 디자인이 단순히 현재 기술이 할 수 있는 것을 넘어, 1년 후 기술이 무엇을 할 수 있을지 예측하고 그에 맞춰 디자인해야 하는 매우 기술적인 작업이라고 강조합니다.

그는 현재의 텍스트 기반 채팅 인터페이스가 미래의 '초다중 모달(super multimodal)' 시스템에는 적합하지 않을 것이라고 예측하며, "마이너리티 리포트"처럼 시스템과 협력적으로 '교감(vibing)'하는 방식이 될 것이라고 전망합니다. 그는 인터페이스 디자인이 시스템의 지능을 해제하는 핵심이며, AI가 개인화된 인터페이스를 생성하는 시대가 올 것이라고 말합니다.

제미니 3.0의 출시 시기에 대한 질문에 하사비스는 직접적인 답변을 피했지만, 새로운 버전은 약 6개월마다 새로운 연구 아이디어와 아키텍처, 데이터 개선 사항을 통합하여 '거대한 영웅 훈련(giant hero training)'을 통해 만들어진다고 설명합니다. 그는 벤치마크가 중요하지만, 모델이 특정 벤치마크에 과적합되지 않고 다양한 영역에서 일관된 성능을 보여야 한다고 강조합니다. 궁극적으로는 최종 사용자의 직접적인 사용 통계와 피드백이 모델의 유용성을 측정하는 데 가장 중요하다고 말합니다.

10. AI 인재 경쟁과 미래 사회

데미스 하사비스는 AI 분야의 인재 경쟁에 대해 언급하며, 메타와 같은 기업들이 높은 연봉으로 인재를 유치하는 전략을 쓰고 있다고 말합니다. 하지만 그는 진정한 AGI 사명에 대한 믿음과 기술의 책임감을 이해하는 사람들은 연구의 최전선에 서는 것을 더 중요하게 생각한다고 강조합니다. 그는 돈보다 더 중요한 가치가 있으며, AI 분야의 연봉이 급격히 상승했지만, 궁극적으로 AGI가 에너지 문제를 해결하고 풍요의 시대를 열면 돈의 의미 자체가 바뀔 것이라고 전망합니다.

그는 프로그래머들이 AI 시대에 일자리를 잃을까 봐 걱정할 필요는 없다고 말합니다. 오히려 AI 도구를 활용하여 '초인적인 생산성(superhumanly productive)'을 발휘하는 '슈퍼휴먼 프로그래머'가 될 것이라고 예측합니다. AI는 코딩과 수학처럼 합성 데이터를 쉽게 생성하고 검증할 수 있는 분야에서 특히 강점을 보입니다. 그는 앞으로 5~10년 동안은 AI 기술을 능숙하게 활용하는 프로그래머들이 큰 이점을 가질 것이며, AI가 코딩을 더 쉽게 만들어 더 많은 창의적인 사람들이 코딩에 접근할 수 있게 될 것이라고 말합니다.

하지만 그는 AI가 사회에 미칠 영향이 산업 혁명보다 10배 빠르고 10배 강력할 것이라고 경고합니다. 이는 사회가 변화에 적응하기 더 어렵게 만들 것이며, 새로운 직업이 생겨나겠지만 기존 기술을 재학습하거나 적응해야 하는 사람들이 많아질 것이라고 봅니다. 그는 이러한 변화에 대비하여 경제학자와 철학자들이 사회적 영향을 논의하고, 보편적 기본 소득(universal basic provision)과 같은 개념을 고려해야 한다고 주장합니다. 또한, 정치 시스템도 빠르게 변화하는 시대에 발맞춰 발전해야 한다고 강조합니다.

11. 존 폰 노이만과 인류의 미래

데미스 하사비스는 벤자민 라바투트의 책 "더 매니악(The Maniac)"을 언급하며, 이 책의 중심 인물인 존 폰 노이만(John von Neumann)에 대한 깊은 존경심을 표합니다. 폰 노이만은 양자 역학, 맨해튼 프로젝트, 현대 컴퓨터 및 AI의 선구자로, 역사상 가장 똑똑한 인물 중 한 명으로 꼽힙니다. 그는 핵물리학이 원자폭탄으로 현실화되는 것을 목격했으며, 컴퓨팅 기술 역시 유사한 파급력을 가질 것이라고 예견했습니다. 하사비스는 폰 노이만이 오늘날의 AI 발전에 놀라지 않을 것이며, 특히 알파고와 같은 게임 AI를 흥미롭게 여겼을 것이라고 말합니다.

하사비스는 폰 노이만이 '프로그래밍하는 대신 성장하는(grown rather than programmed)' 학습 기계 시스템을 예견했다고 말하며, 이는 오늘날의 AI 발전과 일맥상통한다고 봅니다. 그는 AI가 인류에게 엄청난 이점을 가져다줄 수 있지만, 동시에 위험도 내포하고 있음을 인정합니다. 그는 폰 노이만이 이 두 가지 측면을 모두 예견했을 것이라고 추측합니다.

렉스 프리드먼은 "이성의 광기 어린 꿈(mad dreams of reason)"이라는 책의 표현을 인용하며, 강력한 기술을 구축하는 데 있어 이성만으로는 부족하다고 지적합니다. 하사비스는 이에 동의하며, 기술 개발에 '영적인 차원'이나 '인본주의적 차원'이 필요하다고 강조합니다. 그는 기술을 인간이 번성하고 세상을 더 잘 이해할 수 있도록 돕는 '도구'로 보며, 과학과 예술이 동반자 관계라고 생각했던 리처드 파인만이나 르네상스 시대의 다빈치처럼 모든 것이 상호 연결되어 있다고 봅니다. 그는 스피노자의 철학을 언급하며, 우주와 그 안에서 우리의 위치를 이해하는 것이 중요하다고 말합니다.

하사비스는 AI가 '다중 사용 기술(multi-use technology)'이기 때문에 위험성이 크다고 말합니다. 그는 악의적인 행위자(개인 또는 불량 국가)가 AI를 해로운 목적으로 사용하는 것을 막는 것이 큰 과제라고 지적합니다. 동시에 선의의 행위자들이 AI에 접근하여 최대한 활용할 수 있도록 해야 한다는 점에서 "매우 까다로운 문제"라고 말합니다. 또한, AI 시스템이 더욱 자율적이고 에이전트화될수록, 우리가 원하는 대로 통제하고 안전 장치를 유지하는 것이 중요하다고 강조합니다.

12. p(doom)과 인류의 희망

데미스 하사비스는 'p(doom)'(인류 문명이 스스로를 파괴할 확률)에 대한 구체적인 수치를 제시하지 않습니다. 그는 그러한 정밀한 예측은 불가능하다고 생각하며, 다만 "확실히 0이 아니며 무시할 수 없는 수준"이라고 말합니다. 그는 AI 기술의 불확실성과 잠재적 영향(모든 질병 해결, 에너지 문제 해결, 우주 여행, 인간 번영 극대화 vs. 파멸 시나리오)을 고려할 때, "신중한 낙관주의(cautious optimism)"가 유일한 합리적인 접근 방식이라고 강조합니다.

그는 기후 변화, 질병, 노화, 자원 부족 등 인류가 직면한 다른 도전 과제들을 해결하는 데 AI가 필수적이라고 말합니다. AI가 없다면 이러한 문제들을 해결하기 어려울 것이라고 봅니다. 따라서 AI는 "놀랍도록 긍정적인 변화를 가져올 수 있는" 기술이지만, 동시에 "정량화하기 어려운" 위험도 존재한다고 인정합니다. 그는 이러한 위험을 더 정확하게 정의하고 해결하기 위해 "과학적 방법"을 사용하여 더 많은 연구를 해야 한다고 주장합니다.

하사비스는 AI로 인한 위험이 '인간에 의한 것(bad actors)'과 'AGI 자체에 의한 것(autonomous AGI)'으로 나뉜다고 설명합니다. 그는 이 두 가지가 다른 시간 척도에서 작동하며 모두 중요하다고 말합니다. 그는 AI가 생물학적 위협이나 핵 위협과 같은 악의적인 사용 사례에 대한 조기 경보 시스템으로 활용될 수 있지만, 이를 위해서는 AI 자체의 신뢰성이 확보되어야 한다고 지적합니다. 그는 이러한 복잡한 문제를 해결하기 위해 중국과 미국을 포함한 국제적인 합의와 협력이 필요하다고 강조합니다.

그는 인류의 미래에 대한 희망의 근거로 인간의 거의 무한한 독창성과 극단적인 적응력을 꼽습니다. 그는 최고의 인간 정신이 스포츠, 과학, 예술 등 어떤 분야에서든 놀라운 능력을 보여준다고 말합니다. 또한, 수렵 채집 시대의 뇌를 가진 인간이 현대 문명에 적응하여 비행기를 타고, 팟캐스트를 하고, 컴퓨터 게임을 하는 것을 보면, AI 기술에도 충분히 적응할 수 있을 것이라고 낙관합니다. 그는 과학이 항상 협력적인 노력의 장이었으며, 국제적인 협력을 이끌어낼 수 있는 매개체가 될 수 있다고 믿습니다.

13. 렉스 프리드먼의 개인적인 생각과 경험

렉스 프리드먼은 데이비드 포스터 월러스의 유명한 "이것은 물이다(This is Water)" 연설에 대한 자신의 생각을 공유합니다. 그는 이 연설이 "가장 명백하고 중요한 현실이 종종 가장 보기 어렵고 말하기 어려운 것"이라는 메시지를 담고 있다고 해석합니다. 그는 모든 것을 질문하고, 특히 현실에 대한 가장 기본적인 가정을 의심하는 것이 중요하다고 강조합니다. 또한, 삶의 중심적인 영적 싸움은 일상생활의 평범한 순간에서 벌어진다고 말합니다.

프리드먼은 우리가 세상이 제공하는 수많은 '주의력의 블랙홀'에 너무 쉽게 시간과 관심을 빼앗긴다고 지적하며, 데이비드 포스터 월러스의 조언처럼 "지루해하지 않는 것(unborable)"이 삶의 핵심이라고 말합니다. 그는 모든 순간, 모든 사물, 모든 경험이 자세히 들여다보면 무한한 풍요로움을 담고 있다고 믿습니다. 그는 리처드 파인만의 꽃에 대한 비유를 인용하며, 과학적 지식이 꽃의 아름다움을 감소시키는 것이 아니라 오히려 "흥분, 미스터리, 경외심"을 더한다고 설명합니다.

그는 또한 데이비드 포스터 월러스의 알래스카 술집 이야기(무신론자와 종교인의 대화)를 인용하며, 모든 것이 관점의 문제이며, 겸손하게 관점을 전환하고 확장할 때 지혜가 찾아온다고 말합니다.

마지막으로 렉스 프리드먼은 자신에 대한 온라인상의 공격과 거짓말에 대해 언급하며, 이는 마음 아픈 일이지만 인터넷의 본질이자 자신이 선택한 길의 대가라고 받아들입니다. 그는 MIT와 드렉셀 대학교에서의 자신의 학력과 경력에 대한 오해를 바로잡으며, 자신이 드렉셀에서 학사, 석사, 박사 학위를 받았고, MIT에서는 10년 넘게 유급 연구원(research scientist)으로 재직 중이라고 명확히 밝힙니다. 그는 연구와 시스템 구축이 자신에게 행복의 원천이며, 앞으로도 계속해서 탐구하고 창조할 것이라고 다짐합니다. 그는 자신을 포함한 모든 인간이 불완전하지만, "우리는 이 아름다운 혼돈 속에 함께 있다"는 메시지로 마무리합니다.

마무리

데미스 하사비스와 렉스 프리드먼의 대화는 AI가 단순한 기술 발전을 넘어 인류의 가장 근본적인 질문, 즉 현실의 본질, 생명의 기원, 인간의 의식, 그리고 미래 사회의 모습에 대한 탐구를 어떻게 가능하게 할 것인지에 대한 깊은 통찰을 제공합니다. AI는 인류가 직면한 거대한 도전 과제들을 해결할 잠재력을 가지고 있지만, 동시에 그에 따른 윤리적, 사회적 문제에 대한 신중한 접근과 국제적인 협력이 필요하다는 점을 강조합니다. 궁극적으로 이 대화는 AI 시대에 인간이 무엇을 추구하고, 어떻게 의미를 찾아야 할지에 대한 성찰을 촉구하며, 과학과 인문학의 경계를 넘나드는 폭넓은 시야를 제시합니다.