카카오클라우드 - 클라우드 개발자 교육 13주차 후기

bootcamp 2026. 2. 9. 23:20

지난주에는 단순한 RAG(검색 증강 생성) 구조에 집중했다면, 이번 주에는 에이전트가 상황에 맞는 도구를 스스로 선택하는 능력을 키우는 데 집중했습니다.

Tool Calling 최적화: 사용자의 질문이 "세법 조문 확인"인지, 아니면 "실제 세액 계산"인지 에이전트가 스스로 판단하도록 로직을 설계했습니다.
MCP 도입 검토: 외부 데이터 소스를 보다 유연하게 연결하기 위해 MCP를 활용했습니다. 이를 통해 제가 개발 중인 가계부 앱 'garabu'의 데이터나 외부 금융 API를 에이전트가 실시간으로 참조할 수 있는 기반을 마련했습니다.

Mac mini를 구입해 OpenAI API에만 의존하던 기존 방식에서 탈피하여, 보안과 비용 효율을 고려한 로컬 호스팅을 시도했습니다.

로컬 LLM 서빙: mac-mini 위에 Llama-3와 같은 오픈소스 모델을 올리고 LangChain과 연결했습니다.
성능 비교 및 최적화: MacBook M4 Pro 환경에서 사전 테스트를 거친 모델을 클라우드 GPU로 이전했을 때의 성능 차이를 측정했습니다. 확실히 특정 도메인(세무) 전문 지식을 다룰 때는 파인튜닝된 로컬 모델이 응답 속도와 정확도 면에서 뛰어난 효율을 보여주었습니다

최종 프로젝트의 요구사항의 핵심은 결국 파인튜닝입니다. 이번 주에는 양질의 학습 데이터를 구축하는 데 많은 시간을 할애해야합니다.

데이터 정제: 복잡한 소득세법과 부동산세법 데이터를 LLM이 이해하기 쉬운 QA(질의응답) 쌍으로 변환했습니다.
LangSmith를 이용한 평가: 에이전트가 답변 중 '환각(Hallucination)' 증세를 보이는 지점을 LangSmith로 모니터링하여 수집했습니다. 이렇게 수집된 오답 노트를 다시 학습 데이터로 활용함으로써 답변의 정확도를 점진적으로 높이고 있습니다.

이렇게 직접 데이터셋을 사용해보기전에 간단한 에이전트로 프로젝트의 데이터셋을 어떻게 사용해야할지 연습중입니다.

3. 깃허브 이슈 추적, 코드리뷰 에이전트 작성

GitHub - yhj0904/langgraph-test-agent

Contribute to yhj0904/langgraph-test-agent development by creating an account on GitHub.

github.com

다음주 부터 프로젝트 설계단계를 진입해야합니다. 전체 프로젝트 흐름은

아이디어 도출 -> 요구사항 도출 -> 기능정의 —> 화면설계-> DB 설계 -> 인프라설계 -> 개발-> 프로토타입 완성 -> QA -> 중간발표 -> 기능 구현 -> QA-> 프로덕션 오픈 -> 실제 유저 데이터 기반 학습-> 최종발표

이렇게 될거 같습니다.

——————————————————————————
본 후기는 [카카오엔터프라이즈x스나이퍼팩토리] 카카오클라우드로 배우는 AIaaS 마스터 클래스 3기(B-log) 리뷰로 작성 되었습니다.

popori99 popori99