이 세미나는 AI가 단순히 질문에 답하는 도구를 넘어 스스로 계획하고, 여러 에이전트와 협력하며, 실제 업무를 수행하는 '에이전틱 AI' 시대로 진입한 상황에서 대한민국이 어떤 컴퓨팅·반도체·메모리·소프트웨어·정책 전략을 마련해야 하는지 논의한 자리다. 핵심적으로는 에이전틱 AI가 기존 AI보다 훨씬 많은 토큰·메모리·전력·통신·데이터센터 자원을 필요로 하며, 이에 따라 GPU 중심의 기존 인프라 전략도 크게 달라져야 한다는 점이 강조됐다. 패널들은 한국이 메모리 강점을 바탕으로 하되, 모델·하드웨어·소프트웨어·서비스를 연결하는 풀스택 역량과 자생 가능한 생태계, 그리고 인간의 판단력과 기초교육을 지키는 전략이 필요하다고 의견을 모았다.
1. 에이전틱 AI 시대의 도래와 세미나의 취지
김승태 AI기반지원국장은 개회사를 통해 이번 세미나가 최근 정부가 발표한 3대 메가 프로젝트와 연계해 국가 차원의 AI 컴퓨팅 전략을 논의하기 위해 마련됐다고 설명했다. 기술혁신·인프라 분과에서 그동안 논의해 온 내용을 전문가들과 공유하고, 대한민국의 AI 발전 방향을 함께 모색하는 것이 목적이었다.
신진우 기술혁신·인프라 분과위원장은 최근 AI 기술 발전 속도가 "어제와 오늘이 다르다"고 표현하며, 불과 얼마 전까지는 더 큰 모델을 만드는 초거대 AI 경쟁이 중심이었다면 이제는 AI가 스스로 계획을 세우고 도구를 활용해 실제 업무를 처리하는 에이전틱 AI 시대로 넘어가고 있다고 진단했다.
"얼마 전까지만 해도 초거대 AI, 더 큰 모델을 만드는 것이 경쟁의 중심이었다면, 이제는 AI가 스스로 계획을 세우고 도구를 활용해 실제 일을 수행하는 에이전틱 AI 시대에 진입한 것 같습니다."
글로벌 경쟁도 빠르게 격화되고 있다. 미국과 중국을 중심으로 AI 패권 경쟁이 심화되는 가운데, 앤트로픽이 약진하고 중국 문샷AI가 낮은 비용으로 최상위권 모델에 가까운 성능을 보이는 키미 K3를 공개하면서 시장에 큰 충격을 줬다는 점이 언급됐다.
그러나 국가 AI 경쟁력은 뛰어난 모델 하나만 확보한다고 완성되는 것이 아니다. 모델이 안정적이고 효율적으로 작동하려면 컴퓨팅 인프라, 데이터센터, 반도체, 네트워크, 전력, 정책이 함께 발전해야 한다는 것이 신진우 위원장의 설명이다.
"기술과 인프라, 그리고 정책이 함께 진화될 때 비로소 국가 AI 경쟁력이 확보될 수 있습니다."
한국 역시 AI 3대 강국 도약을 목표로 국가 AI 데이터센터 구축, AI 반도체 생태계 조성, 피지컬 AI 기술 확보 등 다양한 정책을 추진하고 있다. 이번 세미나는 이러한 흐름 속에서 대한민국이 AI 기술과 인프라 분야에서 어떤 선택을 해야 하는지를 묻는 자리였다.
2. 언어모델에서 에이전틱 AI로 바뀌는 게임의 법칙
이동수 기술혁신·인프라 분과위원은 발표에서 단순히 "어떤 모델이 더 높은 성능을 냈는가"를 비교하는 것보다, 에이전틱 AI가 산업과 컴퓨팅의 게임 규칙 자체를 어떻게 바꾸는가에 주목해야 한다고 강조했다.
기존의 언어모델은 사용자가 질문을 입력하면 하나의 답변을 내놓는 방식이었다. 하지만 에이전틱 AI는 특정 업무를 수행하기 위해 여러 전문 에이전트가 서로 통신하고, 외부 도구를 사용하며, 결과를 검증한다. 만약 결과가 잘못되면 실패 원인을 분석한 뒤 앞선 단계로 돌아가 다시 시도한다.
"처음에 주어진 비즈니스적인 목표를 수행할 수 있을 때까지 몇십 번, 몇백 번이든 반복할 수 있는 복합적인 시스템으로 발전했습니다."
예를 들어 코딩 에이전트는 하나의 모델이 모든 일을 처리하는 것이 아니라, 코드를 작성하는 에이전트, 결과를 검증하는 에이전트, 오류를 분석하는 에이전트 등이 서로 협력하는 구조로 움직인다. 이 과정에서 에이전트들은 메시지와 중간 결과를 공유하고, 외부 프로그램이나 데이터베이스, 검색 도구 등을 활용한다.
이동수 위원은 기존 언어모델을 PC 시대에, 에이전틱 AI를 인터넷 시대에 비유했다. 기존 모델이 사람이 직접 입력하고 답을 받는 독립적인 형태였다면, 에이전틱 AI는 여러 시스템이 연결되고 협력하는 네트워크형 구조라는 의미다.
일상 속에서 구현되는 에이전틱 AI
에이전틱 AI는 이미 우리가 상상해 온 미래의 AI와 가까운 형태로 나타나고 있다. 운전 중 "누구에게 이메일을 보내 달라"고 말하면 음성 인식, 이메일 작성, 연락처 검색, 일정 확인 등의 기능이 서로 협력해 업무를 수행할 수 있다.
냉장고에 달걀이 없을 때 AI가 이를 인식하고 쇼핑몰을 검색한 뒤 주문과 결제까지 처리하는 상황도 마찬가지다. 이 경우에는 냉장고 에이전트, 쇼핑몰 에이전트, 결제 에이전트가 연동된다.
"이제는 단순히 토큰을 만들어 내는 것이 아니라, 어떻게 협력하고 어떤 도구를 이용해야 목적을 달성할 수 있는지까지 갖추는 것이 에이전틱 AI의 특징입니다."
활용 분야는 음성 인터페이스, 커머스, 코딩, 금융, 제조, 개인 비서 등 매우 넓다. 하지만 활용 범위가 넓어질수록 인프라 부담도 급증한다.
3. 에이전틱 AI가 요구하는 막대한 비용과 인프라
에이전틱 AI는 일반적인 언어모델보다 훨씬 많은 컴퓨팅 자원을 필요로 한다. 하나의 질문에 한 번 답하는 것이 아니라, 여러 에이전트가 여러 차례 대화하고, 계획을 수정하고, 결과를 검증하고, 실패하면 다시 실행하기 때문이다.
이동수 위원은 에이전틱 AI 인프라 비용이 기존 언어모델보다 100배에서 1,000배까지 커질 가능성이 있다고 설명했다. 여기에는 여러 요인이 곱셈처럼 작용한다.
첫째는 요청량 증가다. 앞으로 사용자는 앱을 직접 조작하기보다 "여행을 예약해 줘", "회의 일정을 조정해 줘"처럼 추상적인 명령을 내리게 된다. 그러면 AI가 여러 애플리케이션과 서비스를 대신 이용하면서 전체 트래픽이 크게 증가한다.
둘째는 토큰 사용량 증가다. 에이전트는 스스로 생각하고 계획을 세우며, 여러 단계의 작업을 수행한다. 작업이 실패하면 다시 앞 단계로 돌아가 재실행하기 때문에 단순한 질문보다 훨씬 많은 토큰이 필요하다.
"에이전트는 스스로 생각해야 하고 여러 턴을 거쳐야 합니다. 실패하면 다시 앞으로 돌아가 반복하기 때문에 보통의 언어모델보다 10배 이상의 토큰을 만들 수 있습니다."
셋째는 메모리와 인프라 비용 증가다. 여러 에이전트가 각기 다른 모델을 사용하고, 서로의 중간 결과를 읽고 저장해야 하므로 GPU뿐 아니라 대용량 메모리와 스토리지, 네트워크가 중요해진다.
일부 연구에서는 하나의 질문에 답하는 데 필요한 전력이 기존 언어모델보다 136배 많을 수 있다는 분석도 소개됐다. 에이전트가 수십 차례의 추론을 반복하고, 여러 모델과 도구를 오가기 때문이다.
비용 증가를 상쇄하는 하드웨어·소프트웨어 혁신
다만 비용이 계속 상승하기만 하는 것은 아니다. 하드웨어와 소프트웨어 양쪽에서 효율을 높이는 기술도 빠르게 등장하고 있다.
대표적으로 멀티토큰 예측과 스페큘레이티브 디코딩이 소개됐다. 기존에는 한 번에 하나의 토큰을 생성했다면, 여러 토큰을 미리 예측해 생성 속도를 높이는 방식이다. 이런 소프트웨어 기법만으로도 비용을 약 4.4배 낮출 수 있는 사례가 있다.
하드웨어 측면에서는 최신 GPU가 이전 세대보다 전력당 더 많은 토큰을 처리할 수 있다. 소프트웨어와 하드웨어 혁신을 함께 적용하면 비용을 10배 이상 줄일 가능성도 있다.
"에이전틱 AI로 가면서 비용이 100배, 1,000배로 급상승하는 부분이 있지만, 하드웨어와 소프트웨어의 혁신을 통해 다시 수십 배, 수백 배씩 낮추는 경쟁도 계속될 것입니다."
이 때문에 세계 빅테크 기업들은 에이전틱 AI와 추론 서비스에 대응하기 위해 데이터센터와 GPU에 막대한 투자를 하고 있다. 초기에는 현금흐름이 급격히 악화되지만, 2~3년 뒤에는 추론 서비스가 본격적인 매출과 수익을 창출할 것이라는 기대가 투자를 이끌고 있다는 분석이다.
4. GPU 중심에서 메모리·통신 중심 인프라로
기존 AI 인프라에서는 GPU와 GPU에 가까이 붙어 있는 고속 메모리인 HBM이 핵심이었다. 동일한 모델을 여러 GPU에 배치하면 어느 GPU가 요청을 처리해도 문제가 없었고, 놀고 있는 GPU에 작업을 배분하면 효율을 높일 수 있었다.
하지만 에이전틱 AI에서는 여러 종류의 특화 모델과 에이전트가 동시에 작동한다. 요청마다 필요한 모델이 다르기 때문에 아무 GPU에나 작업을 보낼 수 없고, 특정 GPU나 모델로 보내야 한다. 이로 인해 GPU 활용률이 떨어질 수 있다.
더 중요한 변화는 에이전트끼리 서로의 중간 결과를 읽어야 한다는 점이다. 한 에이전트가 만든 메시지나 상태를 메모리에 저장하면 다른 에이전트가 그것을 읽고 다음 작업을 수행한다. 따라서 GPU의 연산 성능만큼이나 대용량 메모리, 스토리지, 메모리 간 통신이 중요해진다.
이동수 위원은 이러한 변화가 스마트폰의 등장과 비슷하다고 설명했다. 휴대전화가 단순 통화·음악·게임 기기였을 때는 각 기능이 독립적으로 작동했지만, 스마트폰 시대에는 여러 앱이 하나의 메모리와 운영체제를 공유하게 됐다.
"에이전틱 AI는 아이폰 모먼트와 같습니다. 여러 앱이 동시에 작동하려면 운영체제와 공유 메모리가 필요했던 것처럼, 여러 에이전트가 함께 작동하려면 새로운 조정 계층과 메모리 관리가 필요합니다."
에이전틱 AI에서는 GPU, HBM만으로는 충분하지 않으며, 에이전트 간 협력을 조정하는 커뮤니케이션 레이어 또는 코디네이션 레이어가 필요하다. 이를 통해 한 에이전트가 만든 결과를 다른 에이전트가 다시 계산하지 않고 메모리에서 바로 불러올 수 있다.
데이터센터 평가 기준도 달라져야 한다
기존의 AI 데이터센터는 입력 토큰과 출력 토큰을 얼마나 빠르고 싸게 생산하는지가 핵심 평가 기준이었다. 그러나 에이전틱 AI에서는 한 작업이 여러 번 반복되고 에이전트 간 통신도 발생한다.
따라서 단순히 "전력당 몇 개의 토큰을 생성하는가"가 아니라 다음과 같은 상위 수준의 지표가 필요하다.
- 하나의 업무를 완수하는 데 드는 전체 비용
- 업무를 끝내기까지 걸리는 시간
- 에이전트 간 통신 비용
- 실패와 재시도 횟수
- 목표를 달성한 성공률
- 전력과 메모리당 실제 업무 처리량
"에이전틱 AI에서는 토큰당 가격만 보는 것이 아니라, 주어진 목적을 얼마나 효율적으로 달성했는지를 평가해야 합니다."
실제로 토큰 단가가 저렴한 모델이 전체 작업에서는 더 비쌀 수 있다. 저렴한 모델이 여러 번 실패하거나 긴 시간 동안 작업하면, 단가가 비싸더라도 한 번에 정확하게 처리하는 모델보다 총비용이 커질 수 있기 때문이다.
5. 모델보다 중요한 하네스와 컨텍스트 관리
에이전틱 AI의 성능과 비용은 모델 자체뿐 아니라 하네스(harness) 설계에 따라 크게 달라진다. 하네스는 AI가 어떤 방식으로 일을 수행할지, 중간 결과를 어디에 저장할지, 어떤 에이전트를 호출할지, 실패했을 때 어떻게 재시도할지 결정하는 일종의 작업 관리 구조다.
같은 모델을 사용하더라도 하네스가 어떻게 설계됐는지에 따라 비용이 두 배 이상 차이 날 수 있다. 특히 에이전트 간 중간 상태와 메모리를 어떻게 공유하느냐가 중요하다.
이메일이 계속 이어지는 것과 같은 컨텍스트 문제
에이전트가 여러 번 대화하면 앞선 입력과 출력이 계속 누적된다. 이는 직장에서 답장 메일이 수십 개 이어지는 것과 비슷하다. 맨 위에는 간단한 업무 지시가 있지만, 실제로는 아래에 쌓인 긴 메일을 모두 읽어야 하는 상황이다.
"에이전트의 대화는 답장이 20개, 30개 달린 이메일과 비슷합니다. 맨 위에는 간단한 지시가 있지만, 아래 내용을 참고하는 데 두 시간이 걸릴 수 있습니다."
컨텍스트가 지나치게 길어지면 처리 속도와 비용이 급격히 나빠진다. 현재 에이전틱 AI 플랫폼들은 이를 해결하기 위해 중간중간 대화 내용을 압축하거나 요약한다. 하지만 이 과정에서 중요한 정보가 사라지거나, AI가 문맥을 잘못 이해하는 문제가 발생할 수 있다.
실제로 한 사례에서는 에이전트가 컨텍스트 압축 과정에서 이메일 내용을 잘못 인식해 사용자의 이메일 200개를 삭제하는 사고가 발생했다. 에이전트가 작업을 시작한 뒤에는 즉시 중단하기 어려운 점도 위험 요소로 제시됐다.
현재의 에이전틱 AI는 아직 완성된 시스템이라기보다, 느리지만 비교적 성공률이 높은 방식과 빠르고 저렴하지만 실패 가능성이 있는 방식 사이에서 휴리스틱하게 조정하는 단계에 가깝다는 평가가 나왔다.
6. 추론 모델, KV 캐시와 차세대 메모리의 중요성
에이전틱 AI에서는 일반 모델보다 추론·리즈닝 모델이 오히려 전체 비용을 줄일 수 있다는 분석도 소개됐다. 추론 모델은 한 번의 응답을 만들 때 더 많은 생각 토큰을 사용하지만, 문제를 더 정확히 파악하고 실패를 줄이기 때문에 전체 작업 횟수가 감소할 수 있다.
"생각을 많이 하는 리즈닝 모델이 오히려 전체적으로는 토큰을 적게 쓰는 경우가 있습니다. 다음에 무엇을 해야 할지 명확히 이해하고 실패와 재시도를 줄이기 때문입니다."
즉, 단순히 모델의 토큰 단가나 한 번의 응답 속도만 봐서는 안 된다. 전체 작업을 얼마나 빨리, 적은 시행착오로 끝내는지를 평가해야 한다.
KV 캐시와 메모리 접근
에이전틱 AI, 특히 코딩 에이전트에서는 앞선 대화와 코드 문맥 대부분이 이미 계산된 상태로 존재한다. 매번 전체 내용을 GPU에서 다시 계산할 필요 없이, 이전 계산 결과인 KV 캐시를 메모리에서 불러오는 편이 더 효율적일 수 있다.
발표에서는 같은 1만 토큰의 입력을 처리할 때, 스토리지에서 캐시를 가져오는 것이 GPU에서 프리필 연산을 다시 수행하는 것보다 10배 이상 빠를 수 있다는 설명이 나왔다. 캐시가 적중하면 서비스 가격이 크게 낮아지는 이유도 여기에 있다.
"앞선 메시지를 굳이 GPU에서 다시 계산하는 것이 아니라, 메모리에 저장된 인코딩 결과를 가져오는 편이 더 빠릅니다."
이에 따라 에이전틱 AI에서는 GPU가 계속 계산하는 구조보다, 메모리에서 데이터를 빠르게 읽고 공유하는 구조가 중요해질 수 있다. 프리필 단계는 빠르게 끝나고, 디코드 단계에서는 GPU의 계산 유닛보다 메모리 접근이 병목이 될 수 있기 때문이다.
이런 분석은 기존 AI 인프라 설계를 근본적으로 다시 검토하게 만든다.
"지금까지 알고 있던 AI 인프라를 처음부터 다시 고민해야 하는 것 아니냐는 이야기까지 나오고 있습니다."
새로운 MPU와 메모리 구조
앞으로의 AI 반도체, 즉 MPU는 단순히 행렬 연산을 잘하는 것만으로는 부족하다. 다양한 에이전트와 메모리를 조정하고, 이질적인 서비스를 처리하며, CXL이나 고용량 플래시 기반 메모리 같은 새로운 메모리 기술을 지원해야 한다.
다만 여기에는 '닭이 먼저냐 달걀이 먼저냐'의 문제가 있다. 호스트 칩이 새로운 메모리를 지원해야 메모리 장치가 개발되지만, 시장 수요가 확실하지 않으면 호스트 칩 업체도 기능을 넣기 어렵다. 반대로 호스트 칩이 없으면 메모리 업체도 제대로 실험하기 어렵다.
이 위원은 이러한 변화가 오히려 스타트업에게 기회가 될 수 있다고 봤다. 대기업보다 빠르게 새로운 워크로드를 분석하고, 하드웨어와 소프트웨어를 함께 설계할 수 있기 때문이다.
7. 하드웨어와 소프트웨어를 함께 설계하는 풀스택 전략
발표의 핵심 결론 중 하나는 소프트웨어와 하드웨어를 따로 개발해서는 안 된다는 것이었다.
예를 들어 에이전트마다 특화된 기능을 부여하기 위해 LoRA와 같은 튜닝 방식을 사용하면 모델 성능은 높아질 수 있지만, 에이전트 사이에서 KV 캐시를 공유하기 어려워질 수 있다. 그러면 앞선 계산을 다시 해야 하므로 속도가 느려진다.
연구진은 KV 캐시를 반드시 공유한다는 하드웨어 제약을 먼저 설정한 뒤, 그 조건 안에서 LoRA 튜닝 성능을 유지할 수 있는 방법을 실험했다. 그 결과 캐시 공유를 강제하면서도 특화 기능을 상당 부분 유지할 수 있었고, 응답 속도는 11배, 처리량은 약 4배 개선됐다.
"하드웨어의 제약을 알고리즘과 결합했을 때, 같은 알고리즘이라도 비용과 속도에서 큰 차이를 만들 수 있습니다."
이처럼 메모리 기술을 개발할 때는 "어떤 메모리가 더 빠른가"만 볼 것이 아니라, 실제 서비스에서 어떤 메모리 구조가 필요하고 어떤 알고리즘과 결합될지를 함께 고려해야 한다.
"메모리 강국이라고 말하는 데서 그치지 말고, 그 메모리를 사용하면 어떤 서비스 혁신이 가능한지까지 설명할 수 있어야 합니다."
이를 위해서는 다음과 같은 에이전트 인식형 인프라와 인프라 인식형 에이전트가 필요하다.
- 하드웨어의 한계와 장점을 에이전트가 활용할 수 있도록 설계
- 에이전트의 작업 특성을 인프라가 이해하도록 설계
- 에이전트 스케줄러와 메모리 관리 기능 구축
- 에이전트용 추론 운영체제 개발
- 차세대 메모리와 반도체를 소프트웨어 생태계에 연결
한국은 HBM, CXL, HBF, 차세대 DDR 등 메모리 분야에서 강점이 있다. 그러나 단순한 부품 공급에 머무르지 않고, 이를 활용한 서비스와 시스템까지 발전시켜야 AI 경쟁력으로 이어질 수 있다는 지적이다.
8. 대한민국의 AI 3강 전략과 국가 AI 주권
패널 토론에서는 대한민국이 메모리 강점을 AI 경쟁력으로 전환하려면 무엇을 해야 하는지가 첫 번째 주제로 다뤄졌다.
이기민 KAIST 교수는 에이전틱 AI 시대에는 단순히 더 오래 생각하는 모델보다 멀티턴 대화, 메모리 활용, 빠른 응답, 여러 에이전트의 조정 능력이 중요해진다고 말했다. 따라서 기존 모델과 다른 에이전틱 AI 특화 모델을 개발해야 하며, 컴퓨터 아키텍처와 운영체제도 이에 맞게 바뀌어야 한다고 설명했다.
이윤수 삼성전자 부사장은 한국이 지금까지 엔비디아나 빅테크가 만든 큰 판에 일부 부품으로 참여하는 구조였다면, 앞으로는 전체 판을 주도할 수 있도록 칩부터 서비스까지 엔드투엔드로 다시 설계해야 한다고 강조했다.
"남이 짜 놓은 판에 우리가 부속으로 들어가는 것보다, 우리가 이 판을 주도할 수 있는 쪽으로 전체적인 재설계가 필요합니다."
이동수 위원은 한국이 과거 메모리와 조선 산업을 개척할 때처럼 다시 과감해질 필요가 있다고 말했다. 현재는 다른 기업이 먼저 성공하는지, 투자 대비 수익이 나오는지를 확인한 뒤 움직이는 경향이 강하지만, 새로운 산업을 만들기 위해서는 시장과 적극적으로 대화하며 필요를 찾아야 한다는 것이다.
"무엇을 만들어야 잘 팔릴지에 대한 정답은 결국 서비스 시장에 있습니다."
그는 반도체 설계도 서비스와 실제 사용 환경에 대한 깊은 이해에서 출발해야 한다고 강조했다. 어떤 기능이 실제로 필요한지, 사용자가 왜 불편해하는지, 제품이 왜 시장에서 선택되지 않는지를 끊임없이 확인해야 한다는 의미다.
모든 스택을 봐야 하지만, 우선순위는 필요하다
국가 AI 주권을 확보하기 위해 파운데이션 모델, GPU 데이터센터, 메모리, 추론 최적화, 에이전틱 소프트웨어를 모두 직접 해야 하는지에 대해서는 다양한 의견이 나왔다.
이동수 위원은 궁극적으로는 전체 스택을 모두 바라봐야 한다고 주장했다. 특정 국가나 기업의 모델과 GPU에 지나치게 의존하면 수출 규제나 지정학적 변화가 발생했을 때 국내 AI 산업이 멈출 수 있기 때문이다. 다만 모든 분야에서 단기간에 세계 최고가 되기는 어려우므로 전략적인 우선순위 설정이 필요하다고 덧붙였다.
이기민 교수도 처음에는 풀스택 전략에 회의적이었지만, 최근에는 생각이 바뀌었다고 말했다. 풀스택이 반드시 최첨단 모델에서 세계 1위가 되기 위한 전략만은 아니며, 최소한 스스로 생존하고 자립할 수 있는 능력을 갖추는 것이 중요하다는 이유다.
"프론티어 랩에 가기 위해서만 풀스택이 필요한 것이 아니라, 우리가 어느 정도 자생할 수 있는 능력을 갖는 것 자체가 중요합니다."
9. 국가 정책은 생태계와 플라이휠을 만들어야 한다
토론에서는 국가가 AI 수요를 직접 만들어야 하는지, 아니면 GPU·MPU·모델 개발 같은 공급 측면만 지원해야 하는지를 두고 의견이 나뉘었다.
이기민 교수는 좋은 모델과 저렴한 서비스가 먼저 나오면 자연스럽게 수요가 생길 수 있다고 봤다. 억지로 수요를 만들면 실제 가치가 낮은 형식적인 사업이 될 가능성이 있다는 것이다.
이윤수 부사장은 정부가 시장을 대신해 모든 수요를 만들어내는 데는 신중해야 하지만, 기업이 단독으로 하기 어려운 인재 양성, 연구 기반 조성, 과도한 규제 완화 등은 국가가 맡아야 한다고 말했다.
반면 이동수 위원은 초기 생태계 형성을 위해서는 어느 정도의 마중물이 필요하다고 봤다. 미국의 DARPA 프로젝트나 중국의 대규모 국가 지원처럼, 초기에는 국가가 투자해 성공 사례를 만들고 시장이 스스로 돌아가게 해야 한다는 설명이다.
박태웅 분과장은 이 문제를 플라이휠, 즉 선순환 구조의 관점에서 설명했다. 미국은 장기간의 원천기술 연구로, 중국은 대규모 자금 투입으로 플라이휠을 돌렸지만, 한국 정책은 개별 사업을 분절적으로 추진하는 경우가 많아 전체 생태계가 어떻게 연결되는지 보이지 않는다고 지적했다.
"정책을 편다면 플라이휠이 어디에 있는지 정의하는 것부터 시작해야 합니다."
스마트공장 몇 천 개를 구축하는 식의 단편적인 목표보다, 어느 한 분야에 불을 붙였을 때 그 효과가 다른 분야로 확산되고 전체 엔드투엔드 생태계가 함께 성장하는 구조를 설계해야 한다는 주장이다.
10. 에이전틱 AI 시대의 안전과 보안
에이전틱 AI는 단순히 답변을 생성하는 데 그치지 않고 결제, 코드 실행, 시스템 변경, 문서 접근 등 실제 행동을 수행한다. 이에 따라 기존 생성형 AI보다 훨씬 복잡한 보안 문제가 발생한다.
이동수 위원은 여러 에이전트가 같은 메모리를 읽고 쓰는 환경에서 어떤 에이전트가 어떤 정보에 접근할 수 있는지를 처음부터 설계해야 한다고 강조했다. 이는 기존 운영체제에서 프로세스나 코어별 접근 권한을 관리하는 문제와 비슷하지만, 에이전트가 훨씬 많고 복잡하게 연결되기 때문에 더 어려울 수 있다.
"어떤 에이전트가 어떤 메모리를 읽을 수 있고 읽을 수 없는지, 이런 권한 구조를 초반부터 설계에 넣어야 합니다."
에이전틱 AI를 공격에 활용하는 사례가 늘어날 수 있지만, 방어 역시 에이전틱 AI를 활용해야 한다. 사람의 속도와 패턴만으로는 자동화된 공격을 감당하기 어렵기 때문이다. 따라서 국가 차원에서 에이전트 간 통신 프로토콜과 보안 표준을 마련할 필요가 있다.
이기민 교수는 현재의 AI 규제가 주로 유해한 텍스트나 편향, 이미지 표시 등 생성 결과물의 안전성에 초점을 맞추고 있다고 지적했다. 그러나 에이전틱 AI 시대에는 대리 결제, 시스템 접근, 자동 실행 등 행동 자체를 규율해야 한다.
핵심적인 안전장치로는 하네스가 제시됐다. 하네스는 AI에게 어떤 권한을 주고, 어떤 시스템에 어느 정도 접근하게 할지 정의하는 통제 장치다.
"하네스는 모델이 어떤 권한을 가질 수 있는지, 어떤 시스템에 얼마만큼 접근할 수 있는지를 정의하는 안전장치입니다."
신정규 위원은 기업 환경에서 에이전트에도 사람과 같은 역할 기반 접근 제어(RBAC)를 적용해야 한다고 설명했다. 사람에게 문서·데이터 접근 권한을 부여하듯이 에이전트에게도 권한을 부여하고, 접근 기록과 행동을 관리해야 한다.
하지만 앞으로 한 사람당 여러 에이전트를 사용하는 환경이 되면 사람과 에이전트의 권한 관계가 매우 복잡해진다. 사람과 에이전트의 비율이 1 대 10을 넘어가면 권한 구조가 기하급수적으로 복잡해질 수 있으므로, 기존 RBAC를 그대로 적용하는 것을 넘어선 새로운 관리 체계가 필요하다.
11. AI 시대 교육은 도구 활용과 근본 역량을 함께 가르쳐야 한다
마지막 토론 주제는 AI 시대의 교육이었다. 현재의 지식 전달과 문제풀이 중심 교육은 AI가 가장 잘하는 영역이므로, 교육이 AI 활용법에만 집중해야 하는지 아니면 AI에 의존하지 않는 판단력과 검증 능력을 키워야 하는지가 논의됐다.
이기민 교수는 AI가 논문을 빠르게 요약하고 문장을 작성할 수 있지만, 학생들이 직접 논문을 읽고 구조를 고민하는 과정을 생략하면 논문을 제대로 쓰는 능력을 배우지 못할 수 있다고 말했다.
"AI를 사용하면 빠르게 할 수 있는 일이 많지만, 직접 해 보는 과정에서만 배울 수 있는 것들이 있습니다."
코딩도 마찬가지다. 앞으로 AI가 사람보다 코딩을 더 잘할 수 있지만, 학생이 코딩을 직접 배우는 과정에서 논리적 사고와 구조적 사고를 익힐 수 있다. 계산기가 있다고 해서 수학 공부가 필요 없어지는 것이 아닌 것처럼, AI 도구가 있다고 해서 근본적인 학습이 사라져서는 안 된다는 주장이다.
이윤수 부사장은 AI를 잘 활용하는 능력뿐 아니라 스스로 생각하는 인지적 주권을 지켜야 한다고 강조했다. AI가 편리하다는 이유로 사람이 판단하고 사고하는 과정을 모두 외주화해서는 안 된다는 의미다.
"누구를 도구를 잘 쓰는 인재로 키울 것인가보다, 근본적으로 생각할 수 있는 인재로 키우는 것이 여전히 중요합니다."
이동수 위원은 학교에서 배워야 할 기초 역량과 기업 현장에서 익혀야 할 실무 기술을 구분해야 한다고 말했다. AI 분야가 빠르게 바뀌더라도 수학, 과학, 확률·통계, 선형대수 같은 기초지식은 오히려 더 중요해진다.
AI가 만든 결과를 검증하고, 다음에 어떤 조정을 해야 할지 판단하려면 기초적인 수학적 사고가 필요하기 때문이다.
"에이전트 AI가 만든 결과가 어떤지 판단하고 조정하려면 확률과 통계 같은 기초 수학 없이는 어렵습니다."
또한 읽기·쓰기·말하기와 같은 언어 능력과 커뮤니케이션 능력도 중요하다고 강조했다. AI 시대일수록 단편적인 도구 사용법보다 문제를 정의하고, 다른 사람과 소통하며, 결과를 검증하는 능력이 핵심이 된다는 것이다.
결론: 한국 AI 전략의 핵심은 연결과 자립이다
이번 세미나에서 반복적으로 강조된 핵심은 에이전틱 AI가 단순한 모델 경쟁이 아니라 전체 컴퓨팅 생태계의 변화라는 점이다. GPU와 HBM 중심의 기존 구조에서 벗어나 메모리·스토리지·통신·운영체제·하네스·보안·서비스가 모두 긴밀하게 연결돼야 한다.
한국은 메모리와 반도체 분야의 강점을 갖고 있지만, 부품 공급에만 머물러서는 AI 3강에 도달하기 어렵다. 서비스 시장을 이해하고, 하드웨어와 소프트웨어를 함께 설계하며, 국가 차원의 플라이휠과 생태계를 만드는 전략이 필요하다.
동시에 특정 국가나 기업에 완전히 의존하지 않도록 모델부터 인프라까지 일정 수준의 자생력을 확보해야 한다. 에이전틱 AI 시대의 경쟁력은 가장 큰 모델 하나가 아니라, 실제 업무를 얼마나 안전하고 빠르며 효율적으로 수행할 수 있는지에 의해 결정될 가능성이 크다.
마지막으로 교육에서는 AI 활용 능력과 함께 인간의 기초지식, 논리적 사고, 판단력, 검증 능력, 읽기·쓰기·말하기 능력을 지켜야 한다는 데 의견이 모였다.
"AI를 잘 쓰는 사람을 넘어, AI를 활용하면서도 스스로 생각할 수 있는 사람을 길러야 합니다."