이 다큐멘터리는 실리콘밸리의 AI 경쟁이 단순한 기술 개발을 넘어, 인간을 뛰어넘는 '기계 신'을 만들려는 세계관과 연결돼 있다고 짚습니다. 그 세계관에는 우생학의 오래된 위계적 사고가 이어져 있으며, AI의 편향과 감시·통제 기술은 이미 취약한 사람들에게 현실적인 피해를 주고 있다고 설명합니다. 영상은 거대 기업과 정부가 손잡는 흐름에 맞서, 기술을 둘러싼 결정에 시민이 참여하고 개발자와 기업에 책임을 물어야 한다고 강조합니다.

1. 기계 신을 만들려는 경쟁

영상은 AI의 방향을 결정하는 이들이 극소수의 초부유층에 집중돼 있다는 문제 제기로 시작합니다. 인터뷰이는 "우리 모두를 위한 결정을 내리는 다섯 명의 남자"가 있다며, Meta·Google·OpenAI·Anthropic·xAI의 수장을 가리킵니다. 이들이 막대한 부와 권력을 바탕으로 AI를 이끌면서도, 그만큼의 부와 권력을 갖지 못한 사람들의 목소리는 충분히 반영되지 않는다는 지적입니다.

실리콘밸리의 AI 지도자들은 AI가 인류의 어려운 문제를 해결하고 풍요로운 미래를 열 것이라고 말하는 한편, AI가 인류에게 심각한 위협이 될 수도 있다고 경고합니다. 한편으로는 "미래에는 돈이 중요하지 않게 될 것"이라고 약속하면서, 다른 한편으로는 AI를 두고 "악마를 불러내는 것"과 같다고 말합니다. 영상은 이 상반된 말들이 결국 인간을 뛰어넘는 초지능을 만들려는 열망에서 나온다고 설명합니다.

그들이 꿈꾸는 것은 인간을 뛰어넘고, 심판자이자 구원자이자 창조자가 될 수 있는 존재입니다. 과거 인류가 그런 존재를 신이라고 불렀다면, 실리콘밸리에서는 초고도 AI, 특히 초지능을 '기계 신(Machine God)'이라고 부르기도 합니다. 영상의 비유를 따르면, 이 AI를 세상에 내놓으려는 빅테크 CEO들은 기계 신의 힘을 전하는 '제사장'처럼 자신을 자리매김합니다.

철학자이자 문명 위험을 연구하는 에밀 토레스는 컴퓨터 과학자 팀닛 게브루와 함께, 실리콘밸리의 여러 사상을 묶어 'TESCREAL'이라는 용어를 만들었습니다. 인공지능 일반지능(AGI)은 인간이 하는 거의 모든 지적 과제에서 사람보다 뛰어난 AI를 뜻하고, 요즘 기업들은 이를 넘어선 초지능(ASI)까지 이야기합니다. 두 연구자는 이 초지능 개발 경쟁의 사상적 배경을 이해하려면 일곱 가지 흐름을 함께 살펴봐야 한다고 말합니다. 트랜스휴머니즘, 익스트로피언주의, 싱귤래리테리어니즘, 코스미즘, 합리주의, 효과적 이타주의, 장기주의가 그것입니다.

이 사상들의 바탕에는 인간을 기술로 근본적으로 다시 설계해, 결국 지금의 인간을 넘어선 포스트휴먼을 만들 수 있다는 트랜스휴머니즘이 있습니다. 그 포스트휴먼은 더 지능적이고, 수명이 훨씬 길거나 사실상 불멸에 가까운 존재로 그려집니다. 오픈AI의 샘 올트먼은 과거 개인 블로그 글에서 인간과 AI의 결합은 피할 수 없으며, 기계와 결합하지 못한 인간은 디지털 지능을 위한 '생물학적 부트로더' 역할을 한 뒤 진화의 곁가지로 사라질 수 있다는 취지의 생각을 밝혔습니다. 영상은 그가 뇌를 보존해 컴퓨터에 올리는 기술을 내세운 회사에 대기자 등록을 했고, 이후 뇌와 AI를 직접 연결하는 회사를 세웠다고 소개합니다.

익스트로피언주의는 인간의 수명 연장과 불멸에 특히 낙관적입니다. 미래 기술이 발전할 때까지 살아남으면 영원히 살 수 있다는 식의 기대가 그 예입니다. 싱귤래리테리어니즘은 AI가 스스로를 개선할 수 있게 되는 순간, 지능이 폭발적으로 커지는 '특이점'이 온다고 봅니다. 코스미즘은 인간의 몸을 바꾸는 데 그치지 않고 은하와 우주 전체까지 재설계하자는 구상으로 나아갑니다.

합리주의와 효과적 이타주의는 자원과 감정에 기대기보다 계산과 분석을 통해 더 나은 결정을 내리고 더 많은 사람을 돕자는 사상으로 소개됩니다. 그러나 토레스는 이 사상들이 극단적인 결론으로 이어질 수 있다고 경고합니다. 한 사람을 장기간 고문하는 상황과 상상할 수 없이 많은 사람이 눈에 먼지가 들어간 듯한 작은 불편을 겪는 상황 중 어느 쪽이 더 나쁜지를 묻고, 후자가 더 나쁘다고 판단하는 사례를 들어, 숫자와 계산이 개인의 고통을 밀어낼 수 있음을 보여줍니다.

장기주의는 인류의 먼 미래를 보호하고 개선하는 일을 최우선 과제로 삼습니다. 미래에 존재할 사람의 수가 훨씬 많을 수 있으므로, 지금 살아가는 사람보다 먼 미래를 먼저 고려해야 한다는 식의 논리가 등장합니다. 일론 머스크가 태양의 팽창으로 지구 생명이 언젠가 사라질 것을 이유로 인류가 여러 행성에 정착해야 한다고 말한 것도 이런 관점과 연결됩니다. 인터뷰이는 이를 두고 "아직 태어나지도 않은 미래 세대를 지구에 사는 사람들보다 앞세우는" 사고라고 설명합니다.

대중에게는 터무니없게 들릴 수 있는 이런 세계관이 실리콘밸리의 AI 업계에서는 널리 퍼져 있다는 것이 영상의 진단입니다. 이 관점에서는 AI가 인류를 파괴할 수도 있다는 '종말론자'와, AI 개발을 최대한 서둘러야 황금시대가 열린다고 믿는 '가속주의자'가 대립합니다. 하지만 영상은 언론이 이를 두 집단의 논쟁으로만 다루면 지진·기근·빈곤 같은 현재의 문제가 상대적으로 작아 보이고, AI를 둘러싼 거대한 미래 서사가 다른 현실을 가릴 수 있다고 지적합니다.

2. 우월한 종을 가려내려는 오래된 사고

토레스는 초인간을 만들려는 트랜스휴머니즘을 "스테로이드를 맞은 우생학"이라고 표현합니다. 전통적인 우생학이 인간 종을 더 낫게 만들겠다며 사람들을 선별하고 통제하려 했다면, 트랜스휴머니즘은 인간 종 자체를 넘어 새로운 종으로 나아가려 한다는 설명입니다.

우생학은 특정한 유전적 특성을 선택하고 사람을 번식시켜 인류를 개선할 수 있다는 주장이었습니다. 그러나 이 주장은 나치의 강제 불임 수술과 대량학살을 정당화하는 데 이용됐고, 실제로 미국의 우생학 정책은 나치가 참고한 사례이기도 했습니다. 조지워싱턴대학교의 데이브 카프 교수는 우생학이 실리콘밸리에서 매력적으로 받아들여지는 이유를 이렇게 설명합니다. 자신이 다른 사람보다 특별하고 우월하다고 믿는 이들에게, 그 믿음을 과학이 뒷받침해 준다는 이야기를 제공하기 때문이라는 것입니다.

그 역사는 실리콘밸리의 뿌리와도 얽혀 있습니다. 19세기 철도 재벌 릴런드 스탠퍼드는 샌프란시스코 남쪽에 팔로알토라는 말을 키우는 목장을 만들고, 말의 잠재력을 극대화하는 훈련법을 개발했습니다. 이후 그 땅에 대학을 세웠고, 초대 총장으로 어류학자 데이비드 스타 조던을 영입했습니다. 조던은 생물을 분류하던 방식으로 인간을 우월한 사람과 열등한 사람으로 나누려 했으며, 열등하다고 여긴 이들에게 강제 불임 수술을 해야 한다고 주장했습니다. 말의 품종을 최적화하려던 생각이 인간을 '개선'하려는 우생학적 사고와 연결된 셈입니다.

스탠퍼드의 한 심리학자는 학교생활에 어려움을 겪는 아이들을 찾아 돕기 위해 만들어진 프랑스 지능 검사를 변형해 IQ 검사로 만들었습니다. 그는 어린 시절부터 아이들을 분류하고, 점수가 낮은 사람은 아이를 낳지 못하게 해야 한다고 주장했습니다. 트랜지스터 발명으로 노벨상을 받은 윌리엄 쇼클리 역시 말년에는 흑인의 지능이 유전적으로 열등하다는 주장을 증명하려 했습니다. 미국에서 강제 불임 수술을 받은 사람은 약 6만~7만 명에 이르고, 그중 약 2만 명은 캘리포니아에서 수술을 받았습니다.

인터뷰이는 우생학의 핵심 주장을 단호하게 비판합니다.

"우생학의 과학은 늘 헛소리였습니다. 진짜 과학적 검증을 견뎌낸 적이 없어요."

그럼에도 우생학은 권력자들에게 매력적이었습니다. 자신의 권력과 부가 부당한 구조에서 온 것이 아니라 타고난 우월함의 결과라고 믿게 해주기 때문입니다. 그럴듯한 과학의 언어는 결국 인종차별과 위계를 제도화하고 기존 권력을 지키는 데 쓰였다는 것입니다.

영상은 이런 분류와 서열화의 논리가 AI에도 들어 있다고 설명합니다. AI의 토대가 되는 머신러닝과 신경망은 데이터에서 패턴을 찾고, 대상을 분류하고, 순위를 매깁니다. 인터뷰이는 AI가 인간처럼 생각한다기보다, 방대한 데이터 속에서 상관관계를 찾아 다음에 올 법한 단어나 결과를 고르는 기술이라고 쉽게 풀어 말합니다.

이런 통계적 분류의 역사에는 사람의 두개골과 성취를 측정해 인종과 계층 간 우열을 주장했던 프랜시스 골턴과 칼 피어슨 같은 인물들이 있습니다. 이들은 자신과 같은 백인·영국인·교육받은 남성이 세계를 이끌기에 적합하다는 믿음을 수치와 분류의 언어로 뒷받침하려 했습니다. '지능' 역시 일상에서 자주 쓰이는 말이지만, 무엇을 지능이라고 할지 명확히 정하기는 어렵습니다. 그럼에도 IQ 검사는 지능을 수치로 측정하고 사람을 높은 쪽과 낮은 쪽으로 나누는 데 사용됐습니다.

그래서 영상은 '더 똑똑한 AI'를 만들겠다는 말 안에도 이미 지능의 기준을 누가 정하는지, 누가 우월하고 누가 열등한지를 가르는 관점이 숨어 있을 수 있다고 경고합니다. 사람을 순위화하는 시스템이 굳어지면, 어떤 사람은 더 중요하고 어떤 사람은 쉽게 배제해도 된다는 생각으로 이어질 수 있습니다.

Meta의 첫 시민권 담당 부사장을 지낸 로이 오스틴은 AI가 객관적인 기계의 판단인 것처럼 보이지만, 실제로는 인간의 결정으로 만들어진다고 말합니다. 어떤 데이터를 학습에 쓸지, AI의 답변 중 무엇을 좋은 답과 나쁜 답으로 볼지 모두 사람이 정합니다. 그 과정에서 소외된 사람들의 목소리가 빠지면, AI는 기존의 불평등을 그대로 학습하게 됩니다.

아마존이 머신러닝으로 직원을 평가하고 채용에 활용하려 했을 때, 여성 지원자를 거의 채용하지 못하는 문제가 드러났습니다. 평가 도구가 남성 직원의 데이터를 바탕으로 만들어져 있었기 때문에, 미래의 '좋은 직원'을 판단하는 기준도 남성을 본보기로 삼았던 것입니다. 오스틴은 백인 남성을 기준으로 도구를 만들면 다른 사람들에게 사실상 이렇게 요구하는 것이라고 설명합니다.

"다른 모든 사람에게 '이 백인 남성들처럼 되어야 한다'고 말하는 겁니다."

데이터가 일부 사람만 대표하면 결과도 그만큼 왜곡됩니다. 흔히 말하는 "쓰레기를 넣으면 쓰레기가 나온다"는 문제가 여기서 발생합니다. 채용 AI는 과거에 성공한 지원자의 패턴을 찾아 사람을 통과와 탈락으로 나누고, 신용평가 AI는 대출 상환 기록을 바탕으로 대출 한도와 금리를 정합니다. 복지 시스템은 부정수급의 패턴을 찾아 누구를 조사할지 고릅니다. 데이터에 이미 들어 있는 사회적 편견이 이런 결정에 반영될 수 있습니다.

특히 어린이와 청소년에 관한 데이터는 학교 성적뿐 아니라 가족과 부모의 배경까지 포함할 수 있습니다. 알고리즘은 이를 바탕으로 아이가 학교에서 잘할지, 문제를 일으킬지, 범죄에 연루될지 예측하고, 그 예측에 따라 실제 조치가 내려질 수 있습니다. 인터뷰이는 미래 행동을 예측한다는 이유로 기회를 빼앗는 일을 위험하고 불공정하다고 말합니다.

"누군가 와서 '네가 앞으로 무엇을 할지 내가 알고 있으니, 너에게 이런 삶의 기회는 주지 않겠다'고 한다면 누구나 분노할 겁니다."

3. AI의 편리함 뒤에 놓인 '제물들'

영상은 2026년 팔로알토의 팔란티어 옛 본사 앞 시위 현장으로 이동합니다. 시위 참가자들은 권위주의적 통제를 가능하게 하는 기술이 바로 이 지역에서 만들어지고 있다며, 기술 기업이 지역 공동체를 희생시켜 이익을 얻었다고 비판합니다.

팔란티어는 정부와 기업이 보유한 데이터를 빠르게 연결하고 분석해 의사결정을 돕는 소프트웨어를 제공합니다. 대표적인 고객은 미국 이민세관단속국(ICE)입니다. ICE의 강경한 이민 단속은 인권과 시민권을 둘러싼 논란을 계속 불러왔습니다. 다큐멘터리는 보도된 판결 분석을 인용하며, 법원이 ICE의 조치가 불법이거나 위헌이고 기본적인 시민의 자유를 침해했다고 판단한 사례가 1만 400건을 넘고, 관련 판결의 90% 이상에서 ICE에 불리한 판단이 나왔다고 전합니다. 단속 대상이 이민자에 그치지 않고 미국 시민까지 포함된 사례가 있다는 증언도 나옵니다.

인터뷰이들은 충분한 교육을 받지 않은 무장 요원들이 지역사회에 들어가 사람을 구금할 수 있고, 법원이 중단하라고 해도 작전이 계속되는 상황을 우려합니다. 이들은 이런 통제 시스템이 미국을 위험한 경찰국가로 밀어갈 수 있다고 말합니다. 인종을 지키고 특정 인종을 배제해야 한다는 담론, 대규모 수용 시설에 갇힌 사람들, 그 안에서 오랜 기간 지내는 아이들의 현실도 함께 언급합니다.

팔란티어의 기술은 병원에도 들어왔습니다. 간호사들은 근무표를 관리하는 소프트웨어가 간호사에게 연속 6일 근무를 배정하거나, 쉬는 날이라고 생각한 직원이 실제로는 출근 대상이어서 징계를 받을 수 있다고 말합니다. 사람이 알고 있는 일정과 알고리즘이 정한 일정이 어긋나면 병원은 인력 부족을 겪지만, 책임은 정작 간호사에게 돌아갈 수 있습니다.

"AI가 언제 출근하라고 하고, 무엇을 하라고 지시하고, 징계까지 권하는 상사라면 어떨까요?"

간호사들이 팔란티어를 반대하는 또 다른 이유는 환자 보호입니다. ICE 요원들이 환자의 퇴원을 기다렸다가 체포하려고 병원 대기실에 있는 사례가 있다는 것입니다. 팔란티어가 ICE를 위해 만든 앱 ELITE는 주소, 금융 기록, 소셜미디어 등 흩어진 개인정보를 하나의 이민자 프로필로 모으고, 지도에 표적을 표시하며 현재 주소가 맞을 가능성까지 점수화하는 것으로 보도됐습니다. 연방 메디케이드 자료가 병원에 온 이민자를 찾아내는 데 사용됐다는 보도도 소개됩니다.

30년 넘게 정부의 대규모 감시와 싸워온 변호사 신디 콘은 의료정보는 환자가 제공한 목적에만 사용되어야 한다고 말합니다. 팔란티어 시스템은 한 목적으로 수집한 정보를 다른 목적에도 활용할 수 있도록 연결하는 데 강점이 있기 때문에, 권력을 가진 정부가 대규모 단속에 사용하려 할 때 그 위험이 커질 수 있다는 설명입니다.

"독재적인 정부가 사람들을 억압하는 데 팔란티어 시스템을 쓸 수 있느냐고요? 답은 그렇습니다."

팔란티어의 주요 계약은 국방부와 군대에도 있습니다. 미국과 다른 나라의 군대에 표적 선정 시스템을 제공한다는 내용이 소개되고, 유엔 보고서에서 가자지구가 기업의 기술 실험장으로 이용됐다는 지적이 나왔다는 인터뷰도 이어집니다. 팔란티어와 구글 등의 기술이 현장에서 시험되고, 이후 미국을 비롯한 다른 지역에 다시 도입될 수 있다는 우려입니다.

시위 참가자들은 군사적 살상과 대규모 감시를 돕는 기술이 사회에 들어와서는 안 된다고 외칩니다. 다큐멘터리는 이 사례를 통해 AI 뒤에도 결국 사람이 있고, 시스템을 만들고 악용하는 사람이 있지만 그들에게는 점점 책임을 묻기 어려워지고 있다고 지적합니다.

AI가 작동하려면 방대한 데이터가 필요합니다. 1980년대 미국의 AI 연구자들은 설득력 있는 AI를 만들려면 통계적 패턴을 찾아야 하고, 그러려면 엄청난 양의 데이터가 필요하다고 보았지만, 당시에는 데이터가 부족했고 공짜도 아니었습니다. 이후 사람들이 인터넷에 올린 사진과 글, 뉴스 기사와 게시물이 대량으로 수집되기 시작했습니다. 한 인터뷰이는 현재 AI 시스템이 "집단의 지적 재산을 가져와 학습에 쓰고 있다"고 비판합니다.

영상은 앤스로픽이 저작권이 있는 자료를 허락 없이 가져다 AI 학습에 사용한 문제로 15억 달러의 손해배상금을 지급하기로 했다고 소개합니다. 작가 아룬다티 로이는 자신도 동의 없이 책을 학습에 사용한 수많은 작가 중 한 명이라며 회사의 행태를 비판했습니다. 한국어 책도 예외가 아니어서, 지난해 이후 다섯 차례에 걸쳐 AI 학습용 신간 한국어 책 166톤이 구매됐다는 보도가 있었다고 전합니다.

데이터를 '주인 없는 땅속의 자원'처럼 부르는 표현도 문제로 꼽힙니다. 연구자 케이트 크로퍼드는 『AI 지도』에서 자원을 자연에서 캐내는 것처럼 말하는 비유가 식민 권력이 오랫동안 써온 수사라고 설명합니다. 그렇게 부르면 데이터가 누군가의 삶과 노동에서 가져온 것이라는 사실이 가려질 수 있습니다.

데이터를 모으고 분류하는 일도 저절로 이뤄지지 않습니다. 사진 속 대상이 고양이인지 개인지, 문장이 혐오 표현인지 아닌지를 사람이 하나씩 표시해야 합니다. AI 데이터 라벨링 기업을 세운 알렉산더 왕은 24세에 자수성가한 최연소 억만장자로 소개되지만, 다큐멘터리는 AI의 핵심 연료가 첨단 기술만이 아니라 사람의 반복 노동이라는 점도 보여줍니다. 필리핀·케냐·베네수엘라의 노동자들이 작업당 몇 센트를 받았고, 그마저 제대로 지급되지 않았다는 주장과, 끔찍한 콘텐츠를 보며 정신적 피해를 입은 노동자들이 소송을 제기한 사례가 언급됩니다.

반도체와 배터리에 필요한 광물은 땅에서 채굴되고, 데이터센터는 막대한 전력과 물을 소비합니다. 그래서 크로퍼드는 AI 산업을 추출 산업으로 규정합니다. 데이터, 노동력, 광물, 에너지를 지구 곳곳에서 끌어다 쓰며 이익은 소수에게 집중된다는 뜻입니다.

실리콘밸리가 천재들이 모여 미래를 만드는 곳으로 보이지만, 그 안에는 자동차에서 생활하거나 여러 일을 동시에 하는 노동자들도 있습니다. 기술 발전의 화려한 이미지와 노동자들의 불안정한 삶 사이에는 큰 간극이 있습니다. 앱으로 일감을 받는 우버 운전자가 오류로 계정을 정지당하면, 그는 누구에게 항소해야 할까요? 얼굴인식 시스템이 운전자의 수염이나 머리 모양이 달라졌다는 이유로 다른 사람이라고 판단해 계정을 막는 사례도 소개됩니다. 앱이 잘못 판단해도 노동자는 당장 일을 잃을 수 있습니다.

"그 사람에게는 생계가 걸린 순간입니다. 하지만 이 기술을 도입하기로 한 사람들은 그 현실에서 너무 멀리 떨어져 있어요."

인터뷰이들은 AGI와 초지능을 둘러싼 거창한 약속도 비판합니다. 기업 경영진은 AI가 곧 엄청난 미래를 가져올 것이라고 말해 투자금을 끌어오지만, 약속이 실현되지 않아도 이미 얻은 돈과 권력은 그대로 유지할 수 있습니다. 모두가 더 나아진 것은 아니며, 실리콘밸리의 억만장자는 한 자릿수에서 세 자릿수로 늘어났다는 지적이 나옵니다.

4. 최후의 제사장과 기술을 둘러싼 권력

영상은 '스타게이트' 프로젝트 발표 장면을 보여준 뒤, 실리콘밸리의 지도층이 도널드 트럼프와 가까워진 흐름을 테크 업계의 권위주의적 전환을 보여주는 신호로 짚습니다. 첫 번째 트럼프 행정부 때 실리콘밸리의 많은 인사는 그가 민주주의를 훼손할 수 있다며 맞서겠다고 했습니다. 그러나 2024년 대선 무렵에는 바이든 행정부의 규제와 반독점 조사 등을 겪은 뒤, 일부 기업 지도자들이 권위주의적 정치에 더 가까워졌다는 것이 인터뷰이들의 분석입니다.

이들은 구글의 검색 생태계, 아마존의 클라우드 인프라, 애플의 모바일 기기 생태계처럼 거대 기업들이 각자의 시장을 장악하고 경쟁을 제한하는 상황도 문제로 봅니다. 실리콘밸리를 움직여 온 핵심 단어로 독점이 꼽히며, 팔란티어 공동창업자 피터 틸은 "독점은 성공한 모든 기업의 조건"이라는 말을 남겼습니다.

피터 틸은 실리콘밸리의 여러 인물과 기업을 연결하는 중요한 인물로 묘사됩니다. 그는 JD 밴스를 키우는 데 영향을 줬고, 도널드 트럼프를 지지했으며, 페이스북의 초기 외부 투자자이자 스페이스X의 주요 투자자였습니다. 샘 올트먼의 멘토이자 가까운 친구로도 알려져 있습니다. 기자 캐런 하오의 취재에 따르면 올트먼은 틸에게서 독점을 목표로 삼는 전략을 배웠다는 주장도 나옵니다.

AI 기술은 이제 국가 안보와 연결되어 규제하기 어려운 자산으로 취급되기도 합니다. 기업은 자신들의 사업을 국가 이익을 위한 일로 포장하고, 정부는 기업에 국가가 보유한 데이터에 접근할 기회를 줍니다. 한국의 사례로는 법무부 출입국 AI 사업이 언급됩니다. 시민 5천만 명과 외국인 1억 2천만 명의 얼굴 사진이 포함된 데이터셋을 기업들이 활용해 시스템을 학습하도록 했다는 설명입니다. 평소에는 접근할 수 없는 자료를 이용하고, 개인정보 보호 규제를 우회할 수 있었다면 기업에는 돈으로 사기 힘든 기회가 된다는 지적입니다.

이처럼 정부와 기업의 이해가 맞물리면 기업은 사람들의 데이터를 더 쉽게 얻고, 그 데이터로 성장한 기술은 다시 사람들을 분류하고 걸러내는 데 쓰일 수 있습니다. 다큐멘터리는 이런 결합을 테크 파시즘이라고 부르는 목소리를 소개합니다. AI가 그 자체로 권위주의를 만들어낸다는 뜻이라기보다, 이미 존재하는 권위주의적 성향을 더 강력하게 증폭할 수 있다는 의미입니다. 감시를 통해 모은 정보에 AI를 덧씌워 사람들을 '가치 있는 사람'과 '문제 있는 사람'으로 나누고, 그 구분에 따라 통제하는 방식입니다.

한국 역시 이 흐름에서 자유롭지 않다고 영상은 경고합니다. 이재명 정부는 'K-팔란티어'를 육성하겠다고 발표했고, 정부가 모델로 삼는 기업은 다큐멘터리가 비판적으로 다룬 바로 그 팔란티어입니다. AI 경쟁에서 뒤처지지 말아야 한다는 주장 속에 개인정보보호법이 개정되어, AI 개발에 시민의 개인정보를 원래 형태 그대로 동의 없이 활용할 길이 열렸다는 내용도 나옵니다. 2020년부터 가명 처리한 개인정보를 연구에 쓸 수 있었지만, 기업들은 성능을 높이려면 원본 데이터가 필요하다고 주장한다는 설명입니다.

이 문제는 결국 누가 데이터를 소유하고 통제하는가, 그리고 누가 결정권을 갖는가의 문제입니다. 걷기 앱이나 쇼핑 앱을 쓰는 일상에서도 사람들의 위치와 소비 데이터가 쌓이고, 이는 고용주와 정부, 민간 기업 모두에게 가치 있는 정보가 됩니다. 알고리즘이 일정을 정하고, 일할 기회를 제한하고, 사람의 행동을 평가하면 사람들은 자신의 삶을 결정할 능력을 잃을 수 있습니다.

"우리는 자유와 자기 결정권, 통제감을 위해 얼마를 지불할 준비가 되어 있나요?"

유럽연합의 AI법을 만드는 데 참여한 마리에테 샤케는 기술 뒤에는 언제나 사람이 있다고 강조합니다. 사람이 기계를 만들고, 어떤 실험을 허용할지 정하고, 안전보다 속도를 선택했다는 것입니다. AI법이 완벽하지 않더라도 책임을 묻는 제도를 마련하면 AI가 마치 저절로 닥친 불가피한 현상인 것처럼 말하는 태도에 제동을 걸 수 있습니다.

AI의 안전성을 둘러싼 질문도 이어집니다. 휴깅페이스에서 현재 버전의 기술이 다른 제품에 침투하는 문제가 있었는데도 회사가 몇 주 동안 이를 파악하지 못했다는 사례가 소개됩니다. 인터뷰이는 묻습니다.

"우리는 인류를 더 나아지게 할 무언가를 만드는 건가요, 아니면 인류를 파괴할 무언가를 만드는 건가요?"

따라서 시민은 AI를 당연하고 불가피한 것으로 받아들이지 말고 적극적으로 질문해야 합니다. 기술을 이해하는 사람이 극소수뿐이라는 말도, 결정을 소수에게 맡기는 근거가 되어서는 안 됩니다. AI는 문화와 정치, 민주주의, 인간관계에까지 영향을 미치기 때문입니다. 인터뷰이는 미국의 표현을 빌려 이렇게 말합니다.

"협상 테이블에 앉지 않으면, 메뉴에 오르게 됩니다."

미국에서는 데이터센터로 전기요금이 오르고 물이 부족해진다고 호소하는 주민들이 시의회에 모이고, 데이터센터 건설에 반대하는 운동도 커지고 있습니다. 지난해 3개월 동안 한 해치에 해당하는 데이터센터 프로젝트가 반대에 부딪혀 중단됐다는 설명이 나옵니다. 대학 졸업식에서 AI의 부상을 산업혁명에 비유한 연사가 학생들에게 야유를 받는 장면도 등장합니다. 젊은 세대는 일자리와 사회보장, 스스로 선택할 권리를 원하지만, 기술 낙관론자와 기술 억만장자들이 오히려 그런 권리를 빼앗고 있다고 느낀다는 것입니다.

영상은 AI 비판자들이 기술 자체를 싫어하는 사람들이 아니었다는 점도 강조합니다. 인터뷰이들은 인터넷과 새로운 기술의 가치를 인정하면서도, 기술을 더 나은 세상을 위해 만드는 프로그래머보다 투자를 받기 위해 무슨 말이든 하는 기업가에게 보상이 쏠리는 현실을 비판합니다. 기업에 허위정보 대응과 반독점 의무를 지우는 규칙은 인터넷 자체를 없애려는 것이 아니라, 거대 기업의 책임을 묻기 위한 것이라는 설명도 나옵니다.

마지막으로 다큐멘터리는 기술 발전을 둘러싼 더 근본적인 질문을 던집니다. 우리는 인간답다는 것이 무엇인지, 그리고 우리 인간성의 어떤 부분을 지키기 위해 싸울 것인지 마주해야 한다는 것입니다. AI가 어떤 미래를 만들지 결정하는 일은 기계에 맡겨진 운명이 아니라, 지금 그 기술을 설계하고 도입하고 사용하는 사람들의 선택과 책임에 달려 있습니다.