2025년 LLM 기반 소프트웨어 엔지니어링의 현실: 현장과 전망

AI와 소프트웨어 개발, 과연 어디까지 왔을까?

발표자는 "런던에 다시 오게 되어 정말 기쁩니다"라며 인사를 시작합니다. 최근 AI가 모든 뉴스의 헤드라인을 장식하고 있다는 점을 언급하며, 실제로 AI가 소프트웨어 개발에 미치는 영향에 대해 다양한 시각이 존재함을 강조합니다.

"마이크로소프트 CEO가 전체 코드의 30%가 AI에 의해 작성된다고 말했어요. 이게 대체 무슨 의미일까요? 정말 대단한 건가요?"

이처럼 대기업 CEO들은 AI의 발전을 매우 긍정적으로 홍보하지만, 실제 현장에서는 그만큼의 성과가 나오지 않는 사례도 많다고 지적합니다. 예를 들어, 한 스타트업 엔지니어가 월 500달러짜리 AI 에이전트(Devon)를 사용하다가 버그로 인해 700달러의 추가 비용이 발생한 사례를 소개합니다.

"AI가 완벽하지 않다는 건 우리 모두 알고 있죠. 이 사례는 그저 좋은 예시일 뿐이에요."

또한, 마이크로소프트의 빌드 컨퍼런스 이후, .NET 코드베이스에 코파일럿 에이전트를 적용하려다 실패한 사례가 레딧에서 화제가 된 일도 언급합니다.

"마이크로소프트가 이런 실패 사례를 투명하게 공개한 점은 높이 평가하지만, 여전히 한계가 명확하다는 걸 보여줍니다."

AI 도구의 실제 사용 현황: 다양한 조직의 목소리

발표자는 최근 자신이 만난 여러 소프트웨어 엔지니어들과의 대화를 바탕으로, AI 개발 도구의 실제 사용 현황을 다음과 같이 정리합니다.

1. AI 개발 도구 스타트업

• Antropic

  • 내부적으로 클라우드 코드(Cloud Code) 도구를 도입하자, 모든 엔지니어가 매일 사용하기 시작했다고 합니다.
  • "클라우드 코드의 90%가 클라우드 코드로 작성됐다"는 말까지 나올 정도로 활용도가 높습니다.
  • 출시 첫날 사용량이 40% 증가했고, 한 달도 안 돼 160% 증가했다고 합니다.
  • MCP(Model Context Protocol)라는 새로운 프로토콜을 오픈소스로 공개해, 다양한 툴과 연동이 가능해졌습니다.
  • "이제 데이터베이스에 직접 연결해 '이 프로모션 코드를 몇 명이 썼는지' 물어보면 SQL 쿼리를 자동으로 만들어줘요. 정말 신기하죠."

• Windinsurf

  • 전체 코드의 95%가 자사 AI 에이전트나 탭 기능을 통해 작성된다고 합니다.

• Cursor

  • "전체 코드의 40~50% 정도가 AI로 작성되는 것 같아요. 잘 되는 부분도 있고, 안 되는 부분도 있어요."
  • 100%를 목표로 하지만, 아직은 한계가 있다고 솔직하게 밝힙니다.

2. 빅테크 기업

• Google

  • 모든 개발 환경이 커스텀으로 구축되어 있습니다. (예: 자체 IDE인 Cider, 자체 코드리뷰 툴 등)
  • "AI가 이제는 구글 내부 어디에나 있어요. Cider IDE에 LLM이 통합되어 있고, 자동완성, 챗 기반 IDE, AI 코드리뷰 등 다양한 기능이 있습니다."
  • "1년 전만 해도 이런 게 거의 없었는데, 지금은 정말 빠르게 발전했어요."
  • "구글은 신중하게 접근하고 있어요. 엔지니어들이 신뢰할 수 있도록 천천히 도입하고 있죠."
  • "구글 SRE 친구들 말로는, 앞으로 프로덕션에 들어가는 코드 라인이 10배로 늘어날 것에 대비해 인프라, 배포 파이프라인, 코드리뷰, 피처 플래깅 등 모든 걸 강화하고 있다고 해요. 구글이 뭘 보고 있는 걸까요?"

• Amazon

  • "아마존 개발자들은 거의 모두 Amazon Q Developer Pro라는 도구를 사용하고 있어요. AWS 관련 코딩에 정말 좋다고 하네요."
  • "6개월 전만 해도 별로였는데, 지금은 정말 좋아졌다고 해요."
  • "내부적으로는 거의 모든 툴과 웹사이트가 MCP 서버를 지원하고 있어요. 자동화가 곳곳에서 일어나고 있죠."
  • "아마존은 20년 넘게 API 퍼스트 전략을 써왔기 때문에, MCP 도입도 자연스럽게 진행되고 있어요."

3. AI 스타트업 및 기타 스타트업

• incident.io

  • "우리 팀은 AI를 적극적으로 활용해 생산성을 높이고 있어요. 슬랙에서 팁과 트릭을 서로 공유하죠."
  • "정의가 명확한 티켓은 에이전트에게 맡기면 꽤 괜찮은 결과가 나와요."
  • "최근 출시된 클라우드 코드를 팀 전체가 정기적으로 사용하고 있어요."

• 익명 바이오텍 AI 스타트업

  • "여러 LLM을 실험해봤지만, 우리에겐 별로 효과가 없었어요. 직접 코딩하는 게 더 빠르더라고요."
  • "우리는 완전히 새로운 소프트웨어를 만들고 있어서, AI가 아직은 잘 맞지 않는 것 같아요."

4. 독립 소프트웨어 엔지니어

• Armin Ronacher (Flask 창시자)

  • "6개월 전만 해도 가상 프로그래머 인턴(에이전트)보다 엔지니어링 리드가 더 좋다고 생각했을 거예요. 그런데 지금은 생각이 완전히 바뀌었어요."
  • "클라우드 코드가 정말 좋아졌고, LLM을 많이 써보니 거부감이 사라졌어요. 모델의 환각(hallucination) 문제도, 도구가 직접 실행해서 피드백을 받으니 크게 걱정하지 않게 됐어요."

• Peter Steinberger (PSPDFKit 창시자)

  • "오랜만에 기술에 이렇게 흥분되고 놀란 적이 없어요. 진짜 전환점이 온 것 같아요."
  • "이제는 언어나 프레임워크가 별로 중요하지 않아요. 쉽게 바꿀 수 있으니까요."
  • "기술 친구들이 밤에 잠을 못 잘 정도로 흥분하고 있어요."

• Bri Brigita (Thoughtworks)

  • "LLM은 어떤 추상화 레벨에서도 쓸 수 있는 도구예요. 이게 기존과 다른 점이죠. 단순히 새로운 레이어가 아니라, 스택 전체를 가로지르는 lateral move라고 생각해요."

• Simon Willis (Django 창시자)

  • "코딩 에이전트가 실제로 잘 작동해요. 최근 6개월간 모델이 크게 발전해서 이제 정말 쓸만해졌어요."

현실 점검: 남은 질문들

발표자는 지금까지의 이야기를 정리하며, 아직 해결되지 않은 네 가지 주요 질문을 던집니다.

1. 왜 CEO와 창업자들이 엔지니어들보다 더 열광할까?

   • "Warp 창업자가 '가장 시니어 엔지니어들은 AI를 잘 안 쓰고, 창업자나 PM이 더 열정적으로 도입한다'고 하더라고요."
   • "공개적으로 말하는 CEO들은 정말 열정적이에요. 왜 그럴까요?"

2. AI 도구 사용이 주류일까, 아니면 아직 일부만 쓰는 걸까?

   • "여기 계신 분 중 일주일에 한 번이라도 AI 도구를 쓰는 분 손 들어보세요. 대략 60~70% 정도네요."
   • "DX의 3만8천 명 설문조사에 따르면, 조직의 절반 정도가 주 1회 이상 AI 도구를 사용한다고 해요. 상위 기업은 60% 정도고요."
   • "이 수치는 3년 전엔 상상도 못 했지만, 아직은 모든 곳에서 주류라고 하긴 어려워요."

3. 실제로 얼마나 시간을 절약할까?

   • "피터는 산출물이 10~20배 늘었다고 하지만, DX 조사에선 주당 3~5시간, 평균 4시간 정도 절약된다고 해요."
   • "40시간 근무 기준으론 10배는 아니죠. 그 절약된 시간으로 뭘 더 만들 수 있을까요?"

4. 왜 개인 개발자에겐 잘 맞지만, 조직 전체에선 아직 한계가 있을까?

   • "이 도구들은 개인 개발자에겐 정말 좋지만, 조직 단위에선 아직 부족하다는 의견이 많아요."

미래 전망과 마무리

발표자는 경험 많은 엔지니어들이 AI 도구에 점점 더 성공적으로 적응하고 있다는 점에 주목합니다.

"우리는 소프트웨어 개발 방식에 어떤 단계적 변화가 일어나고 있는 것 같아요."

마지막으로, 소프트웨어 공학계의 거장들의 의견을 인용하며 발표를 마무리합니다.

• Martin Fowler

  "LLM의 등장은 소프트웨어 개발을 어셈블리에서 고급 언어로 넘어갔을 때와 비슷한 변화를 가져올 거라고 생각해요. 다만, 이번엔 처음으로 비결정적인(non-deterministic) 컴퓨팅이라는 점이 다르죠."

• Kent Beck (52년 경력의 소프트웨어 엔지니어)

  "52년 동안 프로그래밍을 하면서 지금이 가장 재미있어요." "마이크로프로세서, 인터넷, 스마트폰처럼, LLM도 개발 환경의 판도를 완전히 바꿀 거예요." "이제까지 비싸거나 어려워서 못 했던 일들이 터무니없이 싸지고 쉬워졌어요. 더 많이 시도해봐야 할 때입니다."

결론

• AI 개발 도구는 이미 많은 곳에서 활발히 사용되고 있지만, 아직 모든 조직과 모든 상황에 완벽하게 맞는 것은 아닙니다.
• 개인 개발자나 경험 많은 엔지니어들은 AI 도구의 잠재력을 빠르게 받아들이고, 실제로 더 많은 성과와 재미를 경험하고 있습니다.
• 조직 단위의 도입과 생산성 극대화는 아직 해결해야 할 과제입니다.
• 앞으로는 더 많은 실험과 시도가 필요하며, "무엇이 싸고, 무엇이 비싼지"를 다시 정의해야 할 시점입니다.

"변화는 이미 시작됐습니다. 더 많이 실험하고, 더 많이 시도해보세요. 감사합니다!"

🎉