이 장에서는 해마(hippocampus)의 기억과 미래 상상 기능을 설명하는 '시뮬레이션-선택 모델'을 중심으로, CA3와 CA1 영역의 역할, 그 신경회로의 작동 방식, 그리고 이 모델이 기존 이론들과 어떻게 다른지 상세히 해설합니다. 또한, 인공지능의 'Dyna' 알고리즘과의 유사성을 짚으며 기억 공고화와 보상 기반 학습의 새로운 관점을 제시합니다. 해마가 과거뿐 아니라, 가치 있는 미래를 준비하기 위해 어떻게 정보를 가공하는지 이해하는 데 핵심이 됩니다.
1. 해마 연구의 축적과 기본 전제
해마는 기억, 상상, 신경질환 등 수많은 측면에서 연구돼 왔으며, 어느새 17만 건이 넘는 논문이 발표되었습니다. 최근 연구들은 해마가 단순히 과거를 기억하는 것에 그치지 않고, 미래를 상상하고 준비하는 역할도 한다는 점을 밝혀내고 있죠.
"해마는 과거 경험을 기억하는 데만 관여하는 것이 아니라, 미래 사건을 상상하는 데도 관여한다."
특히 잠이나 휴식 상태에서 발생하는 '샤프 웨이브 리플(sharp-wave ripple)' 및 신경회로 재생(replay), 그리고 해마의 CA3와 CA1 부위의 세부 구조와 기능이 중요하게 다뤄집니다.
2. 시뮬레이션-선택 모델의 핵심
이 장에서 주로 설명하는 시뮬레이션-선택 모델은 다음과 같은 기본 구조를 갖고 있습니다.
- 시뮬레이션(모의실험) : CA3 영역에서 과거 경험 뿐 아니라 새로운(경험하지 않은) 사건의 연속 시퀀스를 무작위적으로 생성해냄.
- 선택(가치 기반 선택) : CA1 영역에서 이러한 다양한 시퀀스 중, 특히 보상(가치)이 높은 정보를 우선적으로 더욱 강화하고 선호함.
"CA3는 막대한 재귀 연결을 바탕으로 휴식 및 수면 중에 다양한 사건 시퀀스를 생성(시뮬레이션)하고, CA1은 가치에 따라 신경활동을 강화(선택)합니다."
두 네트워크가 분리되어 역할을 나누기 때문에, 다양한 시나리오에 대해 유연하고 효율적인 미래 준비가 가능하다는 점이 핵심입니다.
3. CA3의 '시뮬레이터' 역할
CA3가 시뮬레이터 역할을 한다는 생각에는 다음과 같은 근거가 있습니다.
- CA3는 강력한 자기 연결(recurrent projection)이 많아서, 일부 뉴런의 활성화가 다른 뉴런들을 연쇄적으로 자극할 수 있습니다.
- 실제로 CA3는 과거에 없었던 새로운 경로의 장소세포(place cells) 활성패턴을 생성하며, 이는 동물이 휴식을 취하거나 잘 때 잘 관찰됩니다.
"CA3의 특이점은 무수히 많은, 개개인은 약한 시냅스가 조밀하게 얽혀 있다는 점입니다. 이 때문에 우연성(랜덤성)이 기능상의 중요한 역할을 할 수 있습니다."
즉, CA3는 단순한 고충실도 기억 저장 장치가 아니라, 무작위성을 가지고 다양한 미래 상황을 '실험해 보는' 시뮬레이터로 작동한다는 것이죠.
4. CA1의 '가치 기반 선택자' 역할
그렇다면 CA3에서 생성된 시퀀스들은 어떻게 처리될까요? 많은 연구자들은 '가치'와 관련된 뇌 부위(복측선조체, 안와전두피질 등)에서 다뤄질 거라 생각했지만, 저자는 CA1 자체가 가치 판단의 전문가라고 강조합니다.
- CA1에서는 보상(가치)이 큰 경로에 위치한 장소세포의 재활성이 훨씬 두드러짐
- 실험 쥐나 인간 모두 보상이 있을 때 특정 해마 패턴이 더 자주, 더 강하게 재생
- CA1은 CA3에서 발생한 수많은 재생(시퀀스) 중 가치가 높은 것을 더 통과시키고 강화함
"CA1은 가치가 높은 재생 시퀀스를 우선적으로 전달하고 강화하며, 이런 선택 과정이 미래의 최적 선택을 유도합니다."
요컨대, CA3가 많은 가능성을 던져주면, CA1이 그 중 보상이 크다고 판단되는 시나리오만을 우선적으로 학습한다는 것입니다.
5. 치상회(Dentate Gyrus)의 역할
시뮬레이션-선택 모델에서는 CA3와 CA1에 초점을 맞추지만, 또 다른 해마 영역인 치상회(dentate gyrus)도 중요합니다.
- 전통적으로는 유사한 입력 패턴을 뚜렷하게 분리(패턴 분리)하는 역할로 여겨짐
- 하지만 저자들과 동료들은 치상회가 다양한 감각 신호를 '공간적 맥락'으로 묶는 '결합(binding)' 기능이 주된 역할이라고 주장합니다
"치상회는 우리가 어디에 있는지(공간 맥락)를 인식하도록 다양한 감각 신호를 결합해 주고, CA3/CA1은 그 맥락 내에서 시뮬레이션-선택을 수행합니다."
즉, 해마는 '결합-시뮬레이션-선택'이라는 일련의 정보 처리로, 공간적 맥락에 맞는 가치 높은 선택을 준비한다는 관점입니다.
6. 시뮬레이션-선택 모델의 의미와 기존 이론과의 차이
이 모델은 아직 실험적으로 완전히 검증된 것은 아니지만, 여러 미해결 현상을 간명하게 설명합니다.
- 해마가 왜 기억과 상상을 동시에 담당하는지
- 왜 기억이 쉽게 왜곡(구성적 성격)되는지
- 해마가 왜 가치 신호를 표현하는지
- CA1이 CA3와 별도로 필요한 이유
- 두 영역에 공통적이면서도 차별화된 장소세포 특성이 왜 있는지
"시뮬레이션-선택 모델은 목표 지향적 행동과 기억 공고화의 신경과정을 하나의 간단한 메커니즘으로 설명합니다."
가장 중요한 점은 이 모델이 공간 정보와 가치 정보를 해마 한 군데에서 통합적으로 처리하여, 미래의 선택을 최적화할 수 있다는 새로운 관점을 제시한다는 것입니다.
7. Dyna 알고리즘과의 평행: 인공지능과 생물학의 만남
흥미롭게도, 이 시뮬레이션-선택 과정은 인공지능 분야의 'Dyna' 강화학습 알고리즘과 매우 유사합니다.
- Dyna는 실제 환경과의 상호작용(경험)에 따른 가치 학습 + 내부 시뮬레이션을 통한 가치 학습의 병행
- 예: 로봇청소기가 실제 청소도 해보고, '상상 청소'도 하면서 흡수한 정보로 최고의 청소 방법을 더 빨리 찾음
- 만약 새로운 상황이 자꾸 생기거나(가구 위치 변경 등) 학습 속도가 느리면, 오로지 현실 경험만으로는 절대 최적 해결책을 못 얻음 → 시뮬레이션-선택이 답!
"경쟁 상대(포식자)는 당신이 학습 끝낼 때까지 기다려주지 않습니다. 환경은 늘 변하니까요. 시뮬레이션-선택 과정이 학습 속도를 크게 높일 수 있습니다."
결국, 실제 행동+내부 상상(시뮬레이션)을 합쳐서 빠르고 유연하게 적응하는 것이 뇌와 인공지능 모두에서 중요한 원리임을 보여줍니다.
마무리
이 장은 해마의 '과거 기억+미래 준비'라는 이중 임무를 '시뮬레이션-선택'이라는 통합적 뇌 회로 모델로 설명했습니다. CA3의 무작위적 시뮬레이션, CA1의 가치 기반 선택, 그리고 치상회의 감각 결합 기능이 어우러져 우리가 경험하지 않은 미래의 보상까지 체계적으로 준비할 수 있음을 보여줍니다. 이 원리는 인공지능의 최신 학습 이론들과도 깊게 맞닿아 있다는 점에서, 앞으로 뇌과학과 머신러닝 양쪽 모두에 큰 시사점을 줍니다. 🚀