2025년 LLM 기반 소프트웨어 engineering의 현실: 현장과 전망

AI와 소프트웨어 개발, 과연 어디까지 왔을까?

The presenter "런던에 다시 오게 되어 정말 기쁩니다"라며 인사를 시작. 최근 AI가 모든 뉴스의 헤드라인을 장식하고 있다는 점을 언급하며, 실제로 AI가 소프트웨어 개발에 미치는 영향에 대해 다양한 시각이 존재함을 강조.

"마이크로소프트 CEO가 전체 코드의 30%가 AI에 의해 작성된다고 말했어요. 이게 대체 무슨 의미일까요? 정말 대단한 건가요?"

In this way, 대기업 CEO들은 AI의 발전을 매우 긍정적으로 홍보However, 실제 현장에서는 그만큼의 성과가 나오지 않는 사례도 많다고 지적. For example, 한 startup engineer가 월 500달러짜리 AI agent(Devon)를 사용하다가 버그로 인해 700달러의 추가 비용이 발생한 사례를 소개.

"AI가 완벽하지 않다는 건 우리 모두 알고 있죠. 이 사례는 그저 좋은 예시일 뿐이에요."

Also, 마이크로소프트의 빌드 컨퍼런스 이후, .NET 코드베이스에 코파일럿 agent를 적용하려다 실패한 사례가 레딧에서 화제가 된 일도 언급.

"마이크로소프트가 Such 실패 사례를 투명하게 공개한 점은 높이 평가However, 여전히 한계가 명확하다는 걸 보여줍니다."

AI 도구의 실제 사용 현황: 다양한 조직의 목소리

The presenter 최근 자신이 만난 여러 소프트웨어 engineer들과의 대화를 바탕으로, AI 개발 도구의 실제 사용 현황을 다음과 같이 정리.

1. AI 개발 도구 startup

• Antropic

  • 내부적으로 cloud 코드(Cloud Code) 도구를 Introduction하자, 모든 engineer가 매일 사용하기 시작했다고 .
  • "cloud 코드의 90%가 cloud 코드로 작성됐다"는 말까지 나올 정도로 활용도가 높습니다.
  • 출시 첫날 사용량이 40% 증가했고, 한 달도 안 돼 160% 증가했다고 .
  • MCP(Model Context Protocol)라는 새로운 프로토콜을 open source로 공개해, 다양한 툴과 연동이 가능해졌습니다.
  • "이제 database에 직접 연결해 '이 프로모션 코드를 몇 명이 썼는지' 물어보면 SQL 쿼리를 자동으로 만들어줘요. 정말 신기하죠."

• Windinsurf

  • 전체 코드의 95%가 자사 AI agent나 탭 기능을 통해 작성된다고 .

• Cursor

  • "전체 코드의 40~50% 정도가 AI로 작성되는 것 같아요. 잘 되는 부분도 있고, 안 되는 부분도 있어요."
  • 100%를 목표로 However, 아직은 한계가 있다고 솔직하게 밝힙니다.

2. 빅테크 기업

• Google

  • 모든 개발 환경이 커스텀으로 구축되어 . (예: 자체 IDE인 Cider, 자체 코드리뷰 툴 등)
  • "AI가 이제는 구글 내부 어디에나 있어요. Cider IDE에 LLM이 통합되어 있고, 자동완성, 챗 기반 IDE, AI 코드리뷰 등 다양한 기능이 ."
  • "1년 전만 해도 Such 게 거의 없었는데, 지금은 정말 빠르게 발전했어요."
  • "구글은 신중하게 접근하고 있어요. engineer들이 신뢰할 수 있도록 천천히 Introduction하고 있죠."
  • "구글 SRE 친구들 말로는, 앞으로 프로덕션에 들어가는 코드 라인이 10배로 늘어날 것에 대비해 infrastructure, deployment pipeline, 코드리뷰, 피처 플래깅 등 모든 걸 강화하고 있다고 해요. 구글이 뭘 보고 있는 걸까요?"

• Amazon

  • "아마존 개발자들은 거의 모두 Amazon Q Developer Pro라는 도구를 사용하고 있어요. AWS 관련 coding에 정말 좋다고 하네요."
  • "6개월 전만 해도 별로였는데, 지금은 정말 좋아졌다고 해요."
  • "내부적으로는 거의 모든 툴과 웹사이트가 MCP 서버를 지원하고 있어요. automation가 곳곳에서 일어나고 있죠."
  • "아마존은 20년 넘게 API 퍼스트 전략을 써왔기 때문에, MCP Introduction도 자연스럽게 진행되고 있어요."

3. AI startup 및 기타 startup

• incident.io

  • "우리 팀은 AI를 적극적으로 활용해 productivity을 높이고 있어요. 슬랙에서 팁과 트릭을 서로 공유하죠."
  • "정의가 명확한 티켓은 agent에게 맡기면 꽤 괜찮은 결과가 나와요."
  • "최근 출시된 cloud 코드를 팀 전체가 정기적으로 사용하고 있어요."

• 익명 바이오텍 AI startup

  • "여러 LLM을 실험해봤지만, 우리에겐 별로 효과가 없었어요. 직접 coding하는 게 더 빠르더라고요."
  • "우리는 완전히 새로운 소프트웨어를 만들고 있어서, AI가 아직은 잘 맞지 않는 것 같아요."

4. 독립 소프트웨어 engineer

• Armin Ronacher (Flask 창시자)

  • "6개월 전만 해도 가상 프로그래머 인턴(agent)보다 engineering 리드가 더 좋다고 생각했을 거예요. 그런데 지금은 생각이 완전히 바뀌었어요."
  • "cloud 코드가 정말 좋아졌고, LLM을 많이 써보니 거부감이 사라졌어요. 모델의 환각(hallucination) 문제도, 도구가 직접 실행해서 feedback을 받으니 크게 걱정하지 않게 됐어요."

• Peter Steinberger (PSPDFKit 창시자)

  • "오랜만에 기술에 이렇게 흥분되고 놀란 적이 없어요. 진짜 전환점이 온 것 같아요."
  • "이제는 언어나 framework가 별로 중요하지 않아요. 쉽게 바꿀 수 있으니까요."
  • "기술 친구들이 밤에 잠을 못 잘 정도로 흥분하고 있어요."

• Bri Brigita (Thoughtworks)

  • "LLM은 어떤 추상화 레벨에서도 쓸 수 있는 도구예요. 이게 기존과 다른 점이죠. 단순히 새로운 레이어가 아니라, 스택 전체를 가로지르는 lateral move라고 생각해요."

• Simon Willis (Django 창시자)

  • "coding agent가 실제로 잘 작동해요. 최근 6개월간 모델이 크게 발전해서 이제 정말 쓸만해졌어요."

현실 점검: 남은 질문들

The presenter 지금까지의 이야기를 정리하며, 아직 해결되지 않은 네 가지 주요 질문을 던집니다.

1. 왜 CEO와 창업자들이 engineer들보다 더 열광할까?

   • "Warp 창업자가 '가장 시니어 engineer들은 AI를 잘 안 쓰고, 창업자나 PM이 더 열정적으로 Introduction한다'고 하더라고요."
   • "공개적으로 말하는 CEO들은 정말 열정적이에요. 왜 그럴까요?"

2. AI 도구 사용이 주류일까, 아니면 아직 일부만 쓰는 걸까?

   • "여기 계신 분 중 일주일에 한 번이라도 AI 도구를 쓰는 분 손 들어보세요. 대략 60~70% 정도네요."
   • "DX의 3만8천 명 설문조사에 따르면, 조직의 절반 정도가 주 1회 이상 AI 도구를 사용한다고 해요. 상위 기업은 60% 정도고요."
   • "이 수치는 3년 전엔 상상도 못 했지만, 아직은 모든 곳에서 주류라고 하긴 어려워요."

3. 실제로 얼마나 시간을 절약할까?

   • "피터는 산출물이 10~20배 늘었다고 However, DX 조사에선 주당 3~5시간, 평균 4시간 정도 절약된다고 해요."
   • "40시간 근무 기준으론 10배는 아니죠. 그 절약된 시간으로 뭘 더 만들 수 있을까요?"

4. 왜 개인 개발자에겐 잘 맞지만, 조직 전체에선 아직 한계가 있을까?

   • "이 도구들은 개인 개발자에겐 정말 좋지만, 조직 단위에선 아직 부족하다는 의견이 많아요."

미래 전망과 Conclusion

The presenter 경험 많은 engineer들이 AI 도구에 점점 더 성공적으로 적응하고 있다는 점에 주목.

"우리는 소프트웨어 개발 방식에 어떤 단계적 변화가 일어나고 있는 것 같아요."

Finally,, 소프트웨어 공학계의 거장들의 의견을 인용하며 발표를 Conclusion.

• Martin Fowler

  "LLM의 등장은 소프트웨어 개발을 어셈블리에서 고급 언어로 넘어갔을 때와 비슷한 변화를 가져올 거라고 생각해요. However, 이번엔 처음으로 비결정적인(non-deterministic) 컴퓨팅이라는 점이 다르죠."

• Kent Beck (52년 경력의 소프트웨어 engineer)

  "52년 동안 programming을 하면서 지금이 가장 재미있어요." "마이크로프로세서, 인터넷, 스마트폰처럼, LLM도 개발 환경의 판도를 완전히 바꿀 거예요." "이제까지 비싸거나 어려워서 못 했던 일들이 터무니없이 싸지고 쉬워졌어요. 더 많이 시도해봐야 할 때."

Conclusion

• AI 개발 도구는 이미 많은 곳에서 활발히 사용되고 있지만, 아직 모든 조직과 모든 상황에 완벽하게 맞는 것은 아닙니다.
• 개인 개발자나 경험 많은 engineer들은 AI 도구의 잠재력을 빠르게 받아들이고, 실제로 더 많은 성과와 재미를 경험하고 .
• 조직 단위의 Introduction과 productivity 극대화는 아직 해결해야 할 과제.
• 앞으로는 더 많은 실험과 시도가 필요하며, "무엇이 싸고, 무엇이 비싼지"를 다시 정의해야 할 시점.

"변화는 이미 시작. 더 많이 실험하고, 더 많이 시도해보세요. 감사합니다!"

🎉