[오프라인] RAG 프로젝트는 왜 실패하는가?: RAG를 잘 다루고 싶은 엔지니어를 위한 패널 토크

※ 참가 신청은 12월 8일 월요일 13:00에 마감됩니다.

goorm

구름은 ‘모두가 개발자가 된다’는 비전으로 ‘개발자 성장 중심’ 생태계를 만들어 나가고 있습니다. 아이디어를 즉시 코드로 바꾸는 AI 클라우드 개발 환경 Arkain, AI·SW 교육 플랫폼 구름EDU, 알고리즘 문제 풀이 서비스 구름LEVEL, 코딩 테스트 플랫폼 구름DEVTH, 게이미피케이션 기반 학습 기록 플랫폼 구름EXP를 제공하고 있어요.


RAG 프로젝트는 왜 실패하는가?: RAG를 잘 다루고 싶은 엔지니어를 위한 패널 토크

많은 엔지니어가 RAG 구축 후 검색 품질이 더 이상 개선되지 않는 성능 정체를 경험합니다. 하이브리드 검색(Hybrid Search) 도입, 리랭킹(Reranking) 적용, 프롬프트 최적화를 해도 여전히 부정확한 검색 결과(Bad Retrieval)나 환각(Hallucination) 문제를 겪고 있습니다.

RAG는 모델이 아닌 운영의 문제다?

문제의 원인은 다양합니다. 검색 알고리즘의 한계, 모델 성능 부족, 청킹 전략 외에도  문서도 한 원인입니다. “Garbage In, Garbage Out(쓰레기가 들어가면 쓰레기가 나온다)”는 말처럼 아무리도 뛰어난 LLM도 참조하는 문서의 품질이 낮으면 정확한 답변을 내놓지 못합니다. 청킹에 따라서는 문서의 맥락이 사라지고, 임베딩을 하나만 변경해도 검색 품질은 무너집니다. 인덱스 구조, 드리프트 대응 등 RAG는 모델이 아닌 운영의 문제라는 말이 나오는 것은 이 때문입니다.

이번 COMMIT에서는 RAG를 실무에서 다뤄본 세 분의 패널을 모시고, RAG를 둘러싼 다양한 품질 문제와 실무에서 겪은 사례 중심으로 “RAG 프로젝트는 왜 실패하는가”란 물음의 답을 찾아보는 시간을 가져봅니다.  세 패널이 실제 운영상에서 겪는 다양한 실패 경험에서 수많은 RAG 프로젝트가 실패하는 이유와 해결 방안을 고민해 봅니다. 또 Google File Search, Chunk-free RAG, Graph RAG 등의 RAG의 기술 트렌드도 알아봅니다.

이런 분께 추천해요

패널 소

이경록(브레인크루 CEO/ YouTube 테디노트 채널 운영)

AI 애플리케이션 전문기업 브레인크루의 대표로 올해 10개 이상의 엔터프라이즈 고객을 대상으로 RAG/Agent 프로젝트를 수행했습니다. 4.8만 구독자를 보유한 YouTube 채널 ‘테디노트’에서 이러한  경험을 꾸준히 공유하고 있으며 LangChain Global Ambassador로서 본사와 협력해 국내 LangChain 유스케이스 확산에도 힘쓰고 있습니다.

김재현(kt ds Software Engineer)

kt ds 기술혁신단 MS AI Tech 팀에서 AI Agent 와 AI Service 를 개발하고 있으며, RAG 와 Agentic AI 등 실전에서 AI 를 접목하고 활용하는데 관심이 많습니다. 현재는 사내에서 AI Agent 도입을 통해 AI first 가 되기 위한 여러 노력들을 하고 있습니다.

김태정(우아한형제들 서버개발자)

우아한형제들에서 주문, 결제 처리 등 개발 경험을 쌓았으며, 현재는 이러한 경험을 기반으로 교육 현장에서 신입 개발자 교육, 커리큘럼 개발에 집중하고 있습니다. 실제 서비스 운영 과정에서 얻은 기술적 판단 기준과 문제 해결 방법을 전달하며, 신입 개발자가 빠르게 현업에 적응하고 성장할 수 있도록 돕고 있습니다.

세션 소개

  • 1부(19:00 ~ 19:10) : 구름과 COMMIT 소개
  • 2부(19:10 ~ 20:00) : RAG 프로젝트는 왜 실패하는가?: RAG를 잘 다루고 싶은 엔지니어를 위한 패널 토크 – 이경록 님, 김재현 님, 김태정 님
  • 3부(20:00 ~ 20:30) : 오픈 네트워킹

수요일에 만나요

  • 일시 : 2025. 12. 10. (수) 오후 7:00 ~ 8:30
  • 등록비 : 무료

COMMIT에 참석하면

구름스퀘어
  • 패널 및 참가자와 함께 네트워킹에 참여할 수 있어요.
  • 간단한 핑거 푸드와 음료를 제공해요.

참고해 주세요

  • 참가 신청은 12월 8일 월요일 13:00에 마감됩니다.
  • 참가가 확정된 분에게는 신청 마감 당일 이메일과 문자로 알려드립니다.
  • 참석자는 추첨을 통해 선정됩니다.
  • 참석 확정 후 당일 불참하시면 다음 오프라인 참석 선정에 불이익이 있습니다.
  • 본 행사는 명함으로 출석 체크하니 명함을 꼭 챙겨와주세요.
    (만약 명함이 없으신 경우, 현장 안내를 따라주시기를 부탁드립니다.)
  • 본 행사는 양도할 수 없으며, 신청하신 본인만 참석할 수 있습니다.
  • 본 행사는 녹음, 녹화, 2차 라이브 스트리밍을 허용하지 않습니다.
  • 참석 현황에 따라 약 10분 정도 늦게 시작할 수 있습니다.
  • 주차는 지원하지 않습니다. 대중교통을 이용해 주세요.
  • 기타 행사 관련 문의는 [COMMIT 채팅 상담]으로 문의해 주세요.

FAQ

발표는 다시 볼 수 있나요?

개인 블로그에 COMMIT 후기나 요약 정리를 올려도 되나요?

다음 COMMIT은 언제 열리나요?

COMMIT

COMMIT 소개

COMMIT은 COMMUNICATION과 IT의 합성어로 한 달에 한 번 수요일에 기술, 개발, 성장, 조직 문화 등에 관한 이야기를 나눕니다.

개발자에게 커밋(commit)은 변경 사항을 기록하는 작업입니다. 개발자가 소스 코드를 커밋하듯 IT 업계를 이루는 분들의 역량을 COMMIT 합니다. COMMIT은 IT 지식과 경험을 공유하고 싶은 모든 분께 열려 있어요.

지난 COMMIT이 궁금하다면?

이전 COMMIT을 확인해 보세요. 오직 COMMIT에서만 만나볼 수 있습니다.

구름 채용 바로가기

구름에서 채용 중인 포지션을 확인하고 싶으시다면, 구름 채용 사이트에서 확인해 주세요.

Posted by
goorm

구름은 ‘모두가 개발자가 된다’는 비전으로 ‘개발자 성장 중심’ 생태계를 만들어 나가고 있습니다. AI·SW 교육 플랫폼 구름EDU, 알고리즘 문제 풀이 서비스 구름LEVEL, 코딩 테스트 플랫폼 구름DEVTH, 클라우드 통합 개발 환경 구름IDE, 게이미피케이션 기반 자기주도학습 플랫폼 구름EXP를 제공하고 있어요.