Cursor의 "메모리" 기능을 만든 사람: 영상 전체 요약

1. 영상 소개 및 발표자 자기소개

이 영상은 Cursor IDE의 핵심 기능 중 하나인 "메모리" 기능을 개발한 Yash가 직접 그 개발 과정과 고민, 그리고 앞으로의 방향에 대해 설명하는 자리입니다. 발표 초반, Yash는 자신이 Cursor 엔지니어링 팀에서 일하고 있으며, 최근 몇 달간 혼자서 메모리 기능을 프로토타이핑해왔다고 소개합니다.

"저는 Cursor에서 엔지니어로 일하고 있고, 지난 몇 달 동안 혼자서 메모리 기능을 프로토타이핑해왔어요."

진행자는 Cursor가 90억 달러 가치의 IDE임을 강조하며, 이렇게 중요한 기능을 Yash 혼자서 맡고 있다는 점에 놀라움을 표합니다.

"메모리 기능이 Cursor에서 굉장히 중요한 역할을 하는데, Yash 혼자서 이걸 개발하고 있다는 게 정말 인상적이네요."

2. Cursor에서의 "컨텍스트" 분류와 메모리의 역할

Yash는 컨텍스트(context)라는 개념이 너무 넓고 혼란스러울 수 있기 때문에, Cursor에서는 이를 세 가지로 나누어 접근한다고 설명합니다.

1. 방향성 컨텍스트(Directional context):
- 에이전트가 넓은 범위에서 검색을 시작해, 점점 관련 파일로 좁혀가는 데 도움을 주는 정보입니다.
- 예를 들어, 사용자가 큰 작업을 지시하면, 이 컨텍스트가 검색 범위를 빠르게 좁혀줍니다.
2. 운영 컨텍스트(Operational context):
- 일종의 '런북(runbook)'처럼, 서비스 배포 방법, 파일 수정 규칙 등 작업 절차나 규칙에 관한 정보입니다.
- Cursor에서는 사람이 직접 작성한 'Cursor 규칙'이 여기에 해당하며, 필요할 때 모델이 이를 불러와 참고합니다.
3. 행동/사용자 컨텍스트(Behavioral/User context):
- 사용자의 선호나 대화 방식 등, 에이전트가 특정 방식으로 행동하도록 유도하는 정보입니다.
- 예를 들어, "나에게는 스페인어로만 대답해줘"와 같은 사용자 규칙이 여기에 해당합니다.

"컨텍스트라는 단어는 너무 넓고 혼란스러워서, 저희는 세 가지로 나눠서 접근하고 있어요. 방향성, 운영, 그리고 행동 컨텍스트죠."

Yash는 지금까지는 주로 코드 기반 검색(즉, 방향성 컨텍스트)에 집중해왔지만, 최근에는 이 세 가지 모두를 보완하는 메모리 기능을 개발하고 있다고 말합니다.

"메모리의 목표는 이 세 가지 컨텍스트 모두를 보완하는 거예요. 궁극적으로는 규칙이나 검색에 덜 의존하게 만드는 거죠."

3. 메모리 기능의 프로토타이핑 과정과 두 가지 접근법

Yash는 메모리 기능을 개발하면서 두 가지 주요 접근법을 시도했다고 설명합니다.

3-1. Sidecar(사이드카) 접근법

작동 방식:
- 메인 에이전트와 별도로, 작은 모델이 대화 내용을 듣고 있다가, 적절한 시점에 대화 내용을 받아와 독립적으로 어떤 정보를 저장할지 결정합니다.
- 이 작은 모델은 메인 프로세스와 완전히 독립적으로 동작합니다.

"사이드카 접근법에서는 작은 모델이 대화를 듣고 있다가, 독립적으로 어떤 정보를 저장할지 결정해요."

3-2. Tool Call(툴 콜) 접근법

작동 방식:
- 메인 모델에 '메모리 업데이트'라는 도구(tool)를 제공하고, 모델이 필요하다고 판단할 때 직접 메모리를 생성, 수정, 삭제합니다.
- 최근 모델(예: Sonnet 4, Opus 4)은 지시를 잘 따르기 때문에, 이 방식이 실제로 잘 작동한다고 합니다.

"툴 콜 방식에서는 모델이 직접 '이건 기억할 만하다'고 판단하면 메모리를 생성해요."

3-3. 두 방식의 차이와 실험

사이드카:
- 메인 프로세스와 분리되어 있어, 더 독립적으로 판단 가능.
툴 콜:
- 메인 프로세스 내에서 모든 것이 처리되어 구현이 더 간단함.

Yash는 두 방식을 모두 실험해보았고, 특히 최근 모델의 성능이 좋아지면서 툴 콜 방식도 충분히 쓸 만해졌다고 평가합니다.

"최근 모델들은 정말 똑똑해져서, 그냥 도구만 주면 알아서 잘 처리해요."

4. 메모리의 정의와 실제 적용에서의 고민

Yash는 Anthropic 등 외부 모델이 정의하는 '메모리'와 Cursor에서 필요한 메모리의 차이를 강조합니다.

Anthropic의 메모리:
- 주로 '작업 로그'처럼, 에이전트가 시도한 모든 일을 기록하는 방식.
Cursor의 메모리:
- 특정 대화나 작업에만 국한된 정보가 아니라, 다른 상황에서도 쓸 수 있는 일반화된 정보를 기억하는 것이 중요함.

"Anthropic의 메모리는 작업 로그에 가깝지만, 저희는 더 일반화된 정보를 기억하길 원해요."

실제로, 모델이 잘못된 메모리를 기억하면 사용자가 아무리 정정해도 모델이 고집을 부리는 문제가 발생할 수 있다고 합니다.

"모델이 잘못된 메모리를 기억하면, 사용자가 '이건 아니야'라고 해도 모델이 '아니, 내 기억이 맞아'라며 고집을 부릴 수 있어요."

5. 프롬프트 설계와 평가, 그리고 사용자 경험(UX) 고민

5-1. 프롬프트 설계의 변화

예전에는 모델이 덜 똑똑해서, 예시를 많이 주고 복잡하게 프롬프트를 설계해야 했음.
최근에는 모델이 좋아져서, 짧고 명확한 설명만으로도 충분히 원하는 동작을 유도할 수 있게 됨.

"이제는 프롬프트를 길게 쓸 필요 없이, 짧고 정확하게만 설명하면 모델이 잘 따라와요."

5-2. 메모리 평가의 어려움

메모리 기능은 없어지면 불편함을 느끼지만, 있을 때는 잘 모르는 특성이 있음.
평가를 위해 일부러 메모리가 도움이 되는 예시를 만들면, 그 자체가 공정하지 않을 수 있음.
그래서 실제로는 불필요한(작업 특화) 메모리를 얼마나 잘 걸러내는지에 집중해 평가했다고 합니다.

"메모리는 없으면 불편한데, 있을 때는 잘 못 느껴요. 그래서 평가가 정말 어려웠어요."

5-3. 사용자 경험(UX)과 메모리 노출

사용자들은 모델이 무엇을 기억해야 하는지에 대해 과도하게 걱정하는 경향이 있음.
실제로는 메모리의 절반이 쓸모없거나 적용되지 않아도, 모델이 알아서 노이즈를 걸러낼 수 있음.
그래서 메모리 생성 과정은 최대한 숨기고, 사용자가 필요할 때만 직접 수정할 수 있도록 설계함.

"사용자들은 메모리 뱅크가 완벽해야 한다고 생각하지만, 실제로는 그렇지 않아도 모델이 잘 처리해요."

6. 앞으로의 방향과 도전 과제

Yash는 앞으로 코드 외적인 정보까지 더 잘 이해하고, 이를 메모리로 남기는 방법을 연구하고 있다고 말합니다.

코드베이스 전체를 임베딩하는 것만으로는 부족하며, 사이드바 대화 등 코드에 남지 않는 정보도 메모리로 남길 수 있어야 함.
새로운 유형의 메모리를 컨텍스트에 포함시키는 방법, 검색 파이프라인 개선 등 다양한 실험이 진행 중임.

"코드에 남지 않는 정보까지도 메모리로 남길 수 있는 방법을 찾고 있어요. 아직은 실험 단계지만, 곧 해낼 수 있을 거라 믿어요."

궁극적으로는 팀 전체가 지식을 공유할 수 있는 방향을 목표로 하고 있습니다.
하지만, 잘못된 메모리가 팀 전체에 퍼지면 오히려 품질이 크게 떨어질 수 있기 때문에, 신중하게 접근하고 있다고 강조합니다.

"내가 에이전트와 겪은 실수를 팀원이 반복하지 않게 만드는 게 목표예요. 하지만 잘못된 메모리가 퍼지면 큰 문제가 되기 때문에, 정말 신중하게 접근하고 있어요."

7. 마무리 및 질의응답 안내

Yash는 발표를 마치며, 앞으로도 계속해서 프로토타이핑과 실험을 이어갈 것임을 밝힙니다.
질의응답 시간은 따로 마련할 예정이라고 하며, 청중에게 감사 인사를 전합니다.

"감사합니다. 앞으로도 계속 실험하고 발전시켜 나가겠습니다."

핵심 키워드 요약

Cursor IDE
메모리 기능
컨텍스트(방향성, 운영, 행동/사용자)
Sidecar vs Tool Call 접근법
프롬프트 설계 변화
메모리 평가의 어려움
사용자 경험(UX)
팀 지식 공유
실험과 프로토타이핑

이 영상은 Cursor의 메모리 기능이 어떻게 설계되고 발전해왔는지, 그리고 앞으로 어떤 방향을 지향하는지에 대한 생생한 개발자 경험을 들을 수 있는 소중한 자료입니다.
Yash의 솔직한 고민과 실험 과정, 그리고 사용자와 팀을 위한 신중한 접근이 인상적으로 다가옵니다. 🚀