이 영상은 AI가 실제로 연구를 수행하고, 좋은 연구를 만들어낼 수 있는가라는 질문을 중심으로 학계의 피어리뷰 시스템, arXiv와 학회 규모의 폭증, 재현성 문제를 살펴본다. 이어 IMO 금메달과 실제 수학 연구의 차이, RLVR이 다루기 어려운 영역, 그리고 "압축이 곧 지능"이라는 관점을 통해 AI 연구의 가능성과 한계를 논의한다. 후반부에는 AI 연구·평가 해커톤, 자기 개선 모델, 빈티지 LM, Inkling과 Kimi K3, GPT-5.6 및 Minecraft 에이전트 사용 경험까지 폭넓게 소개한다.

1. PPO 논문이 던진 질문: 좋은 연구를 누가 알아보는가

영상은 2026년 7월 18일 녹화된 대화로 시작한다. 첫 번째 주제는 단순하지만 매우 근본적인 질문이다.

"AI가 연구를 할 수 있을까?"

박종현은 이 질문을 설명하기 위해 PPO(Proximal Policy Optimization) 논문의 사례를 꺼낸다. PPO는 ChatGPT의 학습 과정에서 활용된 RLHF, 즉 인간 피드백을 통한 강화학습과 밀접한 알고리즘이다. 사용자가 AI와 나눈 대화를 사람이 평가하고, 그 평가를 바탕으로 모델이 더 좋은 답변을 하도록 학습하는 과정에서 중요한 역할을 했다.

그런데 이 알고리즘을 소개한 논문은 2017년에 학술지나 학회에서 거절당했다고 한다. 훗날 ChatGPT와 대규모 언어 모델의 발전에 결정적인 영향을 준 기술이 당시에는 심사위원들에게 충분히 인정받지 못했던 것이다.

"좋은 연구라고 해서 반드시 좋은 학술회의에 순조롭게 게재되는 것은 아닙니다. 때로는 거절당하기도 합니다."

비슷한 사례는 한두 개가 아니다. 현재는 매우 유명하고 영향력 있는 연구가 과거에는 심사위원들에게 별다른 가능성을 인정받지 못한 경우가 많다. 연구자라면 누구나 이런 경험을 어느 정도 공유한다는 것이다.

PPO는 인간이 대화의 질을 평가하고, 그 평가를 흉내 내는 보상 모델을 만든 뒤, 모델이 더 좋은 답변을 내놓도록 조정하는 방식으로 이해할 수 있다. 그러나 당시에는 이 알고리즘이 훗날 LLM에 적용되어 그렇게 큰 영향력을 발휘할 것이라고 저자 본인조차 확신하기 어려웠다.

"연구가 훌륭한지 평가하는 일 자체가 매우 어렵습니다. 점수를 매기는 일이 쉽지 않습니다."

결국 여기서 중요한 문제는 연구의 가치가 발표 당시에는 잘 드러나지 않을 수 있다는 점이다. 심사위원뿐 아니라 연구자 자신도 미래의 영향력을 정확히 예측하기 어렵다.

2. AI 슬롭 시대의 arXiv와 학회의 균열

PPO 논문은 정식 학술지나 학회에 게재되지 못했지만, arXiv에 업로드되어 널리 공유되고 많이 인용됐다. arXiv는 원래 동료평가를 통과하기 전 논문을 빠르게 공개하는 프리프린트 플랫폼이다.

학술지와 학회 심사에는 수개월, 때로는 그보다 더 긴 시간이 걸린다. 빠르게 발전하는 분야에서는 논문이 정식으로 출판될 때쯤이면 이미 연구 흐름이 바뀌어 있을 수 있다. 따라서 arXiv는 지식을 빠르게 공유하고, 심사에서 놓친 연구를 발견하는 통로로 중요한 역할을 해왔다.

하지만 최근에는 LLM을 이용해 만들어진 논문이 급증하면서 문제가 생겼다. 논문을 작성하는 비용은 크게 낮아졌지만, 그 논문이 실제로 가치 있는지 검증하는 비용은 여전히 높다.

"LLM으로 논문을 만드는 비용은 매우 낮지만, 그 논문이 정말 좋은지 검사하고 평가하는 일은 비싸고 어렵습니다."

그 결과 arXiv에 연구와 거의 관계없는 저품질 논문, 이른바 AI 슬롭(sl​​op)이 대량으로 올라올 수 있다는 우려가 커졌다. 이런 콘텐츠가 넘치면 사람들이 플랫폼 자체를 신뢰하지 않게 될 수 있다.

반대편에서는 arXiv의 본래 목적을 훼손해서는 안 된다는 주장도 나온다.

"arXiv는 원래 동료평가 전에 논문을 올리고 공유하는 곳 아닌가요? PPO 같은 연구가 발견될 길을 막아서는 안 되는 것 아닌가요?"

즉, arXiv는 검증되지 않은 연구를 빠르게 확산시키는 장점과 검증되지 않은 쓰레기 연구가 범람할 위험을 동시에 안고 있다.

이 문제는 학회에서도 나타난다. ICML에는 약 2만 3천 편의 논문이 제출되고 6천 편 이상이 채택됐다. 과거 연구자들이 대학원에 있을 때만 해도 학회 발표 논문이 수백 편 수준이었던 것과 비교하면 규모가 폭발적으로 증가한 셈이다.

논문뿐 아니라 리뷰도 AI가 작성하는 경우가 늘었다. 논문 작성이 쉬워지자 심사해야 할 논문도 많아졌고, 심사위원들이 감당하지 못해 AI로 리뷰를 작성하는 상황까지 생겼다.

"논문 작성이 쉬워진 뒤 평균적인 논문 품질이 낮아졌고, 리뷰도 감당하지 못하게 되자 리뷰까지 AI를 사용하게 됐습니다."

일부 심사위원은 AI를 사용하지 않고 직접 리뷰하겠다고 선택했지만, 실제로는 AI를 사용한 사실이 드러나 배제되기도 했다. 학계가 오랫동안 유지해 온 동료평가 시스템 자체가 LLM의 등장으로 균열을 겪고 있는 것이다.

그렇다면 좋은 연구란 무엇일까. 박종현은 연구를 이렇게 정의한다.

"인류의 전체 지식에 아주 조금이라도 새로운 지식을 더한다면, 그것이 연구라고 생각합니다."

그리고 새롭게 추가된 지식이 세상에 큰 영향을 미치고, 좋은 방향으로 세계를 바꾼다면 좋은 연구라고 볼 수 있다고 말한다. 박승준은 여기에 연구 윤리도 반드시 포함되어야 한다고 덧붙인다. 새로운 지식이라 해도 전쟁이나 인간의 피해를 무시한 채 만들어진 것이라면 좋은 연구라고 부르기 어렵기 때문이다.

3. 재현성 문제와 AI를 활용한 새로운 평가 방식

현재 인류가 좋은 연구를 가려내는 가장 대표적인 방법은 동료평가(peer review)다. 연구자들이 서로의 연구를 읽고 가치와 타당성을 판단하는 방식이다. 수백 년 동안 이어져 온 시스템이지만, 아직 이보다 명확하게 나은 대안은 등장하지 않았다.

그러나 연구와 논문의 수가 폭발적으로 늘면서 사람만으로 모든 연구를 평가하기 어려워졌다. 이 문제를 해결하기 위한 흥미로운 시도로 Hugging Face의 ICML 재현 챌린지가 소개된다.

이 챌린지는 논문을 읽고 논리만 평가하는 것이 아니라, AI 에이전트가 논문에 제시된 방법을 직접 다시 구현해 보도록 한다. 논문에서 "이 방법을 사용했더니 성능이 크게 향상됐다"고 주장하더라도, 실제로 코드를 실행했을 때 같은 결과가 나오는지 확인하는 것이다.

"논문에 적힌 논리를 실제로 실행해 보고, 데이터가 정말 같은 방식으로 나오는지 검증하는 것입니다."

학술계에서는 재현성 문제가 오래전부터 논란이었다. 논문에는 실험 방법이 그럴듯하게 적혀 있어도, 다른 연구자가 직접 구현하면 결과가 나오지 않는 경우가 많았다. 하드웨어나 폐쇄형 시뮬레이터가 필요한 연구는 코드와 환경을 모두 공개하기도 어렵다.

AI로 작성된 논문이 늘면서 이 문제는 더욱 심각해질 수 있다. 실제로 실험을 하지 않고 데이터를 만들어냈거나, 실험 결과를 잘못 해석했을 가능성도 있기 때문이다.

"논문을 보면 실험 결과가 이렇게 나왔다고 적혀 있지만, 실제로는 실험을 하지 않았을 수도 있습니다."

당시 약 6천 편의 논문 가운데 800편 정도가 재현 작업을 완료한 것으로 언급된다. 아직 챌린지가 진행 중이어서 최종 결과는 이후에 확인해야 하지만, 이 과정은 단순한 피어리뷰와 실제 실행 사이를 연결하는 중간 단계의 보상 또는 검증 시스템으로 볼 수 있다.

이런 방식은 연구의 진위를 한 번에 완벽히 판단하지는 못하더라도, 최소한 다음과 같은 질문에 답하는 데 도움을 준다.

• 논문에 적힌 실험이 실제로 실행되는가?
• 주장한 성능이 재현되는가?
• 결과가 잘못되었거나 과장된 것은 아닌가?
• 애초에 실험이 수행되었는가?

4. 연구형 Ralphthon과 AI 심사 에이전트

다음으로 소개되는 것은 한국에서 인기를 끌고 있는 Ralphthon이다. Ralph을 활용해 밤새 해커톤처럼 프로젝트를 수행하는 행사로, 이번에는 연구형 Ralphthon이라는 형태로 진행됐다.

두 가지 트랙이 마련됐다.

1. LLM을 사용해 실제로 연구하고 실험한 뒤 논문을 작성하는 트랙
2. 그렇게 만들어진 논문을 평가하고 심사하는 트랙

참가자는 교수, 의사, 연구자뿐 아니라 고등학생까지 다양했다. 박종현은 현장에서 만난 15세 참가자의 이야기를 특히 인상 깊은 사례로 소개한다. 이 학생은 LLM의 컨텍스트에 데이터를 계속 넣었을 때 어느 순간 성능이 떨어지는 현상에 관심을 갖고 있었다.

"중요한 데이터를 앞에 넣어야 할까, 뒤에 넣어야 할까? 성능은 언제, 어떤 방식으로 떨어질까?"

이 학생은 학교에서 정식으로 연구를 배운 적이 많지 않았지만, 스스로 질문을 만들고 문제를 해결하기 위한 실험을 설계하고 있었다. 진행자는 이것이야말로 연구의 본질에 가까운 태도라고 감탄한다.

Ralphthon에서는 AI가 논문을 작성하고, 또 다른 AI가 그 논문을 심사했다. 이후 점수를 바탕으로 논문을 순위화하고 포스터 발표도 진행했다. 실제 연구자들이 심사위원으로 참여해 좋은 논문을 직접 선정했고, 동시에 인간 심사위원의 점수와 AI 심사 에이전트의 점수가 얼마나 비슷한지도 평가했다.

흥미롭게도 가장 높은 평가를 받은 심사 에이전트는 특별히 어떤 유명한 평가 방법론을 사용한 모델이 아니었다. 단지 인간 심사위원들의 평가와 가장 높은 상관관계를 보인 에이전트였다.

"좋은 심사가 무엇인지 정의하기 어렵다면, 인간 심사위원과 얼마나 비슷하게 평가하는지를 기준으로 삼는 것도 하나의 방법일 수 있습니다."

이 결과는 심사 품질의 본질에 대해 질문을 던진다. 좋은 심사란 논문을 객관적으로 평가하는 특별한 철학을 갖는 것일까, 아니면 실제로 신뢰할 만한 인간 전문가들과 비슷한 판단을 내리는 것일까.

이는 RLVR과도 연결된다. 좋은 보상만 주어진다면 모델이 반드시 특정한 방법을 사용하도록 강제할 필요 없이, 스스로 다양한 방법을 탐색하게 할 수 있다는 관점이다.

다만 연구의 가치는 즉시 검증하기 어려운 경우가 많기 때문에, 연구 분야의 보상은 아직 완전히 verifiable, 즉 명확하게 참·거짓을 판별할 수 있는 보상은 아니다. 그럼에도 AI를 이용해 평가 기준을 구체화하고, 가능한 한 많은 연구를 자동으로 비교하려는 시도는 계속되고 있다.

5. IMO 금메달은 AGI가 아니다

이후 대화는 Dwarkesh 팟캐스트의 Grant Sanderson과 Adam Brown 인터뷰로 넘어간다. Grant Sanderson은 수학 교육 채널 3Blue1Brown으로 유명한 수학 커뮤니케이터이며, Adam Brown은 물리학자 출신으로 DeepMind에서 초지능과 과학 연구를 다루고 있다.

먼저 AI가 IMO, 즉 국제수학올림피아드에서 금메달 수준의 성적을 거둔 것이 AGI를 의미하는지 논의한다. 3년 전에는 사람들이 이렇게 질문했다.

"AI가 IMO 금메달을 따면 AGI라고 할 수 있는 것 아닌가요? 수학을 그렇게 잘한다면 정말 똑똑한 것 아닌가요?"

당시 Grant Sanderson은 그렇지 않다고 답했다. IMO는 중요한 시험이지만, 결국 여러 벤치마크 중 하나일 뿐이며, AI가 특정 시험에 특화되어 높은 성적을 내는 것과 일반적인 지능을 갖는 것은 다르다는 것이다.

"그건 수많은 벤치마크 중 하나일 뿐입니다. LLM은 특정 테스트 하나를 공략하는 데 매우 능숙합니다."

실제로 AI가 IMO 금메달을 획득한 뒤에도 사람들은 이를 곧바로 AGI라고 부르지 않는다. 이 점에서 Grant Sanderson의 당시 판단은 상당히 선견지명이 있었다고 평가된다.

IMO는 이틀 동안 총 6문제를 약 9시간에 걸쳐 푸는 대회다. 인간 중에서도 매우 뛰어난 학생만 풀 수 있지만, 실제 수학 연구는 수천 시간, 수만 시간이 필요한 장기 작업이다.

"IMO 금메달은 수학자가 되기 위한 입구일 수 있지만, 실제 수학 연구는 만 시간, 수만 시간이 필요한 일입니다."

또한 IMO 문제는 충분히 훈련할 수 있다. 과거 기출문제와 유사한 유형을 반복해서 풀면 성과를 높일 수 있다는 의미다. 한국의 수능 수학 문제를 기출문제와 유사 문제를 통해 훈련하는 것과 어느 정도 비슷하다고 설명한다.

더 중요한 점은 수학 내부에도 분야별 편차가 크다는 사실이다. 대수, 기하, 정수론, 조합론은 서로 다른 능력을 요구한다. 어떤 모델이 기하 문제는 매우 잘 풀면서 조합 문제는 거의 풀지 못할 수 있다.

"수학 안에서도 독립적인 뾰족한 지능이 존재합니다."

따라서 수학 전체를 잘하는 것도 아니고, 더 나아가 현실의 상식과 물리적 판단까지 잘하는 것도 아니라면 IMO 성적 하나만으로 일반지능을 판단하기는 어렵다.

6. Galois 군론과 연구의 긴 시간尺度

좋은 연구가 무엇인지 생각하면, 수학자 Galois가 만든 군론의 사례가 떠오른다. 군론은 훗날 물리학과 입자 연구, 쿼크의 예측 등 여러 분야에 영향을 주었지만, 그 가치가 충분히 인정되고 실제 세계에 큰 영향을 미치기까지는 약 100년이 걸렸다고 한다.

"어떤 이론이 등장한 뒤, 그것이 정말 좋은 연구였다는 사실이 검증되고 사회에 영향을 미치기까지는 매우 긴 시간이 걸릴 수 있습니다."

이처럼 연구의 진정한 가치는 수십 년, 심지어 100년 뒤에야 드러날 수도 있다. 그러므로 즉시 정답 여부를 확인하고 보상을 주는 RLVR의 시간尺度와 실제 연구의 시간尺度 사이에는 큰 간극이 있다.

RLVR은 보통 답이 맞았는지 곧바로 확인할 수 있어야 한다. 하지만 새로운 이론이나 정의가 정말 중요한지 알아내려면 긴 검증과 다른 분야와의 연결이 필요하다.

Grant Sanderson이 인용한 문장도 이 문제를 잘 보여준다.

"좋은 수학자는 정리를 증명하고, 위대한 수학자는 좋은 추측을 제시하며, 가장 위대한 수학자는 좋은 정의를 만듭니다."

현재 AI는 이미 주어진 정리나 문제를 증명하는 능력을 크게 발전시키고 있다. 하지만 더 높은 수준인 새로운 질문을 만들고, 새로운 개념과 정의를 제시하는 능력까지 도달할 수 있을지는 아직 불확실하다.

7. AI는 서로 다른 분야를 연결할 수 있는가

박종현은 AI가 훌륭한 연구를 할 수 있다고 본다. 그 근거 중 하나는 서로 다른 분야의 지식을 연결하는 능력이다.

수학자 Montgomery와 물리학자 Dyson은 서로 다른 분야에서 활동했지만, 대화를 나누던 중 수론의 리만 제타 함수와 물리학의 특정 현상 사이에 유사한 구조가 있다는 사실을 발견했다. 이런 연결은 연구자들이 우연히 만나 대화하는 과정에서 나타날 수 있다.

"서로 완전히 다른 분야라고 생각했던 것들 사이에 실제로는 많은 공통점이 있을 수 있습니다."

인간 연구자는 자기 분야에는 깊지만 모든 분야를 깊이 알 수는 없다. 반면 LLM은 방대한 분야의 지식을 한 번에 참고할 수 있다. 이론적으로는 어떤 분야의 개념을 다른 분야에 적용해 인간이 아직 발견하지 못한 지식을 찾을 수 있다.

다만 박승준은 컨텍스트의 저주를 지적한다. 모델에게 명시적으로 다른 분야의 연결을 요구하지 않으면, 모델은 일반적으로 해당 분야에서 흔히 나오는 답변만 생성할 가능성이 높다.

"모델에게 명확하게 요구하지 않으면, 다른 분야의 지식을 적극적으로 가져오지 않고 그 분야에서 평균적으로 나오는 말만 하게 됩니다."

이를 극복하기 위해서는 다음과 같은 방법이 가능하다.

• 프롬프트에서 다른 분야의 개념을 반드시 참고하도록 요구하기
• 관련 분야의 자료를 입력에 직접 포함하기
• 여러 분야를 연결하는 탐색용 하네스 구축하기
• 모델이 평소와 다른 방향으로 탐색하도록 보상 설계하기
• 모델이 '잠자는 동안' 여러 개념을 연결하도록 하는 LLM Daydreaming과 같은 방식 활용하기

결국 인간이 논문을 읽고 "이 아이디어를 다른 문제에 적용해 보면 어떨까?"라고 생각하는 과정은 AI도 충분히 시도할 수 있는 연구 방식이라는 것이다.

8. "압축이 곧 지능"이라는 관점

3Blue1Brown에서 연재 중인 Compression is Intelligence, 즉 "압축이 곧 지능"이라는 주제가 소개된다.

아인슈타인의 상대성이론은 오랜 시간에 걸친 사고실험과 물리적 탐구, 수많은 가설과 검증을 통해 만들어졌다. 하지만 오늘날 우리는 그 결과를 한 시간 남짓한 강의로 배울 수 있다.

"수십 년 동안 탐색하고 실험하며 쌓인 지식이 계속 압축되어, 사람들이 이해할 수 있는 형태로 전달됩니다. 그 자체가 지능입니다."

3Blue1Brown의 강점은 복잡한 수학 개념을 시각적으로 압축해 이해하기 쉬운 형태로 바꾸는 데 있다. 박종현은 학창 시절 배웠지만 실제로는 이해하지 못했던 푸리에 변환을 3Blue1Brown의 영상을 보고 비로소 이해했다고 말한다.

이 관점에서 지능은 단순히 많은 정보를 저장하는 능력이 아니라, 방대한 정보에서 핵심 구조를 찾아 짧고 이해 가능한 형태로 표현하는 능력이다.

이 생각은 AI와 인간의 지식 축적에도 적용된다. 1천 년 전 사람과 현재 사람의 뇌 하드웨어가 크게 다르지는 않지만, 현대인이 훨씬 복잡한 일을 할 수 있는 이유는 인류가 축적한 지식을 교육을 통해 빠르게 습득하기 때문이다.

"인간의 뇌 자체가 크게 달라진 것이 아니라, 지식이 잘 압축되어 머릿속에 들어오기 때문에 더 많은 일을 할 수 있는 것 아닐까요?"

교육과 언어, 수학, 과학은 인류가 쌓아 온 지식을 압축한 일종의 사고 도구이자 발판이다. AI 역시 이런 압축된 지식을 활용해 새로운 지식과 연결을 만들어낼 수 있다.

이 개념은 알고리즘 정보이론, Kolmogorov 복잡도, Solomonoff induction과도 연결된다. DeepMind 공동창업자 Shane Legg의 스승인 Marcus Hutter도 압축과 지능의 관계를 연구했으며, 압축은 AGI 연구의 중요한 이론적 배경 중 하나로 언급된다.

다만 Ted Chiang이 LLM을 "인터넷을 흐릿하게 JPEG 압축한 결과"라고 표현한 것처럼, LLM의 압축이 진정한 이해인지에 대해서는 논쟁이 남아 있다.

9. 실험 없는 이론 연구와 AI의 가능성

Adam Brown 인터뷰에서는 특히 이론물리학과 AI 연구의 관계가 다뤄진다. 이론물리학은 실제 실험이 매우 어렵다. 입자를 빛의 속도에 가깝게 가속해야 하거나, 엄청난 규모의 장비가 필요할 수 있기 때문이다. 그래서 연구자는 많은 경우 사고실험과 수학적 추론에 의존한다.

그렇다면 실제 실험 없이 AI가 연구를 얼마나 진전시킬 수 있을까?

Adam Brown은 만약 LLM이 아인슈타인 수준의 지능을 갖고 있다면, 그런 모델을 하나가 아니라 수천, 수만 개 만들 수 있다고 말한다. 이 모델들이 서로 다른 가설을 세우고 머릿속에서 수많은 실험을 진행하게 하면, 인간 역사상 극소수의 천재만 수행할 수 있었던 탐색을 대규모로 반복할 수 있다는 것이다.

"문제를 검색으로 보고, 그 검색에 계산이라는 거대한 자원을 투입하면 됩니다."

또한 인간은 이미 옳다고 믿는 이론을 쉽게 의심하지 않는 경향이 있다. 뉴턴의 중력 이론도 한때 완전히 옳다고 여겨졌지만, 이후 상대성이론이 등장하면서 수정이 필요해졌다.

AI는 인간에게는 낭비처럼 보이는 방식으로 기존 이론을 반복해서 검증하고, 이미 맞다고 여겨지는 가설을 다시 반증할 수 있다.

"사람에게는 낭비처럼 보이는 검증이 LLM에게는 낭비가 아닐 수 있습니다."

이 점에서 Hugging Face 재현 챌린지도 의미가 있다. 피어리뷰를 통과한 논문이라도 다시 실행하고, 틀렸을 가능성을 확인하는 과정은 새로운 연구의 출발점이 될 수 있다.

다만 분야별 발전 속도는 다를 것이다.

• 수학과 이론처럼 머릿속에서 추론 가능한 분야는 빠르게 발전할 가능성이 높다.
• 생물학과 화학처럼 실제 실험과 물질 합성이 필요한 분야는 더 느릴 수 있다.
• 즉시 보상을 줄 수 있는 분야는 RLVR의 도움을 많이 받을 수 있다.
• 정답이 하나로 정해지지 않은 연구나 창작 분야는 발전 속도가 더 느릴 수 있다.

10. AI 시대에도 인간에게 남는 역할

박승준은 지적 자동화 시대에도 인간의 역할이 상당 부분 남을 것이라고 본다. Grant Sanderson이 말한 지적 돌파의 형태를 세 가지로 나누면 다음과 같다.

1. 서로 다른 분야를 번개처럼 연결하는 것
2. 새로운 산을 쌓듯 완전히 새로운 개념 체계를 만드는 것
3. 새로운 개념 없이도 엄청난 추론을 수행해 답을 찾아내는 것

첫 번째는 AI가 비교적 잘할 수 있다. 두 번째는 장기간 검증이 필요하고, 세 번째는 Lean이나 Mathematica 같은 시스템을 통해 이미 상당 부분 자동화되고 있다.

하지만 어떤 증명이 참이라는 것과, 그것이 인간에게 의미 있고 중요한 아이디어라는 것은 다르다.

"무언가가 참이라는 것과, 그것이 우리가 원하던 것이며 우리의 사고를 바꿀 만한 것인지는 별개의 문제입니다."

AI가 수백만 줄의 Lean 코드를 만들어 정리를 증명할 수 있다고 해도, 인간이 그 결과를 이해하지 못한다면 연구의 의미를 전달하기 어렵다. 따라서 인간이 이해할 수 있도록 설명하고, 무엇이 중요한지 판단하고, 어떤 순서로 사람들에게 보여줄지 결정하는 역할은 여전히 중요하다.

좋은 글은 단순히 결과만 맞으면 되는 코드와 다르다. 독자가 어디에서 멈출지, 어떤 오해를 할지, 어떤 순서로 설명해야 다음 문장을 받아들일지까지 고려해야 한다.

"좋은 글에서는 각각의 문장과 단어가 단순한 포장이 아니라 내용 그 자체입니다."

이 점에서 창작 글쓰기와 연구의 의미는 RLVR로 쉽게 최적화하기 어렵다. 코드처럼 최종 결과가 실행되면 되는 것이 아니라, 중간의 모든 표현과 선택이 결과의 일부이기 때문이다.

교육에서도 교사의 역할은 단순한 설명 전달보다 사회적 관계와 동기 부여에 가까워질 수 있다.

"교사가 필요한 이유는 단순히 설명을 해 주기 때문이 아니라, 교육이 사회적이고 관계적인 활동이기 때문입니다."

결국 인간에게 남는 중요한 능력은 다음과 같다.

• 어떤 질문을 던질 가치가 있는지 판단하는 능력
• 멀리 떨어진 아이디어 사이의 연결을 발견하는 능력
• 새로운 개념이 장기적으로 유효할지 판단하는 능력
• 복잡한 결과를 인간이 이해할 수 있도록 압축하는 능력
• 무엇이 중요한지, 무엇에 주의를 기울여야 하는지 선택하는 능력

11. RLVR이 어려운 이유와 취향의 문제

RLVR은 외부 검증기가 결과를 확인하고 보상을 주는 방식이다. 예를 들어 모델이 코드를 작성하면 테스트를 실행해 성공 여부를 확인하고, 성공한 경로의 확률을 높인다.

이 방식은 수학 문제나 프로그래밍처럼 결과가 비교적 명확한 분야에서 강력하다. 하지만 최종 결과만 맞으면 전체 과정이 모두 좋은 것으로 취급될 수 있다는 문제가 있다.

가령 수학 문제의 답은 맞지만 풀이가 지나치게 길거나 복잡할 수 있다. RLVR은 답이 맞다는 이유만으로 수백만 줄의 Lean 코드까지 높은 보상을 줄 수 있다.

"답만 맞으면 전체 풀이 과정이 대체로 옳다고 보고, 그 경로 전체의 확률을 높이게 됩니다."

그 결과 간결하고 아름다운 증명보다 무식하게 긴 증명이 선택될 수 있다. 글쓰기와 디자인은 더욱 어렵다. 정답이 하나가 아니며, 여러 결과가 모두 괜찮을 수 있기 때문이다.

박종현은 디자인 작업을 예로 들며, AI가 여러 디자인을 만들더라도 최종적으로 무엇이 좋은지 선택하는 것은 사람이라고 말한다. 사람은 soul, mood board, taste 같은 요소를 정하고, 여러 결과 중 마음에 드는 것을 골라 다시 모델에 입력한다.

"취향에 속하는 행동은 아직 사람이 합니다."

이는 인간이 AI의 생성 과정 안에 계속 들어가는 human-in-the-loop 방식이다. AI가 모든 것을 한 번에 만들어내는 것이 아니라, 사람이 방향과 기준을 제시하고 AI가 여러 가능성을 빠르게 탐색한다.

12. 최근 소식: 빈티지 LM, Inkling과 Kimi K3

후반부에는 최근 AI 업계의 여러 소식이 이어진다.

먼저 Alec Radford가 진행하는 빈티지 LM 프로젝트가 소개된다. 1930년대 이전의 자료만 사용해 언어 모델을 학습시킨 뒤, 그 모델이 1930년대 이후의 기술과 발전을 얼마나 추론할 수 있는지 실험하는 프로젝트다.

"과거의 데이터만으로 이후의 발전을 상상하게 하면, 미래 예측에 대해 흥미로운 단서를 얻을 수 있습니다."

이는 모델이 이미 알려진 미래 정보를 보지 않고도 기술 발전의 방향을 어느 정도 예측할 수 있는지 실험한다는 점에서 의미가 있다.

또한 Thinking Machines Lab의 Inkling 모델과 Kimi K3가 언급된다. Inkling은 영어로 '희미한 단서'나 '예감'을 의미하며, 아직 본격적인 시작에 앞선 예고편 같은 이름으로 해석된다. 약 1조 규모에 가까운 모델을 오픈 웨이트로 공개했다는 점도 주목받았다.

Inkling과 관련해 특히 흥미로운 것은 자기 미세조정(self-fine-tuning)이다. 모델이 특정한 목적에 맞게 자기 자신을 다시 미세조정하는 방식이다. 예로 모델이 영어에서 가장 많이 쓰이는 문자 'e'를 사용하지 않고 글을 쓰도록 학습하는 리포그램(lipogram) 실험이 소개된다.

"특정 목적을 위해 모델 자신을 다시 미세조정하는 RSI 부분이 흥미롭습니다."

이 과정은 모델 가중치를 직접 바꾸는 방식과, 모델을 둘러싼 하네스를 개선하는 방식이 섞여 있다. AIDE² 같은 조직은 모델 자체보다 harness, 즉 모델이 작업하는 환경과 도구 사용 구조를 개선하는 방식의 자기 개선을 시도하는 것으로 소개된다.

Kimi K3는 오픈 웨이트 대형 모델로, 개인이 직접 실행하기는 어렵지만 여러 GPU 클라우드와 OpenRouter 등을 통해 활용할 수 있다. MoE 구조와 칩 설계까지 포함한 기술적 시도가 언급되며, 모델뿐 아니라 발표 영상과 티저 제작까지 세심하게 구성한 점이 인상적으로 평가된다.

13. GPT-5.6과 Minecraft 에이전트 사용 후기

박종현은 GPT-5.6을 일주일 정도 사용해 본 경험을 공유한다. 모델이 한 번 시작한 작업을 10시간 넘게 계속 수행하는 경우도 있었다.

"어젯밤 시작한 작업이 10시간이 지나도 끝나지 않아서 결국 중단했습니다."

이는 GPT-5.6이 test-time compute, 즉 답을 내기 전에 더 많은 계산과 탐색을 수행하는 방향으로 발전했음을 보여주는 사례로 설명된다.

박승준은 Minecraft 에이전트를 개발하며 여러 모델을 함께 사용한 경험을 소개한다. 사용자가 명령을 내리면 모델이 조종하는 로봇이 Minecraft 안에서 이동하고 작업을 수행한다. 로봇이 막히는 이유를 직접 확인하기 위해 로봇이 사용하는 명령어를 기반으로 사람이 직접 조작할 수 있는 인터페이스도 만들었다.

개발 과정에서 Fable 5와 Sol을 함께 사용했는데, Sol은 Fable 5의 결과를 매우 엄격하게 검토했다.

"Sol은 매번 아주 엄격하게 심사하면서 여기 틀렸고, 저기도 틀렸다고 계속 지적했습니다."

결국 Fable 5가 만든 대규모 구역 로딩과 스트리밍 방식의 문제를 Sol이 해결했다. 모델마다 작업 방식이 달랐다. Fable 5는 비교적 많은 것을 받아들이는 반면, Sol은 더 까다롭게 문제를 지적하고 수정하는 역할을 했다.

이 사례는 모델 하나가 모든 일을 잘하는 것이 아니라, 서로 다른 모델을 생성자와 검토자로 배치했을 때 더 좋은 결과를 낼 수 있음을 보여준다.

14. 마무리: AI 연구의 미래는 '정답'보다 '좋은 질문'에 달려 있다

영상의 결론은 AI가 연구를 할 수 있느냐는 질문에 대해 단순한 긍정이나 부정으로 답하지 않는다.

AI는 이미 논문을 작성하고, 코드를 구현하고, 실험을 재현하고, 수학 문제를 풀고, 서로 다른 분야의 지식을 연결하며, 새로운 가설을 탐색할 수 있다. 특히 정답을 검증할 수 있고, 탐색을 많이 할수록 성과가 좋아지는 분야에서는 빠르게 발전할 가능성이 크다.

하지만 연구의 진정한 가치는 즉시 검증되지 않을 수 있다. 어떤 이론은 수십 년 뒤에야 중요성이 드러나고, 좋은 정의나 개념은 단순한 정답보다 훨씬 높은 수준의 판단을 요구한다. RLVR은 이런 장기적이고 모호한 가치를 아직 충분히 보상하기 어렵다.

결국 인간에게 남는 핵심 역할은 무엇이 중요한지 판단하는 일이다.

"어떤 문제가 제기할 가치가 있는지 알아보고, 멀리 떨어진 생각 사이의 연결을 발견하며, 새로운 개념이 장기적으로 정말 유효한지 판단하는 능력이 중요합니다."

AI가 인간보다 더 많은 가설을 만들고 더 많은 증명을 수행할 수 있는 시대가 오더라도, 무엇을 연구할지, 어떤 결과가 의미 있는지, 그것을 인간이 어떻게 이해할 수 있게 만들지를 결정하는 문제는 쉽게 사라지지 않을 것이다.

영상은 AI가 연구를 대신할 수 있는지보다, 앞으로 인간과 AI가 함께 연구의 범위와 속도를 어디까지 확장할 수 있는지를 고민하는 대화로 마무리된다.