baekjoon recommendation

알고리즘 문제 추천에 LLM을 붙이면 “대화형”이 될 것 같았지만, 실제로는 추천만으로는 대화의 효용이 낮다는 결론에 빠르게 도달했다. 그래서 추천을 시작점으로 삼되, 사용자가 막히는 순간 바로 문제 정보 기반의 해설/풀이 가이드까지 이어지는 “학습 도우미” 경험을 목표로 서비스를 설계했다.

서비스 링크: ps-recommendation

프로젝트 개요

이 서비스는 백준(BOJ) 사용자 핸들을 입력받아 개인화된 문제를 추천하고, 사용자가 선택한 문제에 대해 힌트/해설/풀이 방향을 대화로 제공한다. 추천 모델의 결과를 단순 노출하는 수준이 아니라, **LLM이 외부 도구를 호출해 필요한 정보를 채우는 구조(MCP)**를 도입해 “정확한 문제 기반 답변”을 목표로 했다.

주요 기능
- 개인화 추천: 사용자 풀이 이력 기반 추천
- 대화형 난이도 조절: “더 어렵게/쉽게” 요청을 누적 반영
- 문제 정보 기반 해설: 문제 페이지를 실시간 크롤링해 맥락 주입

baekjoon_demo

프로젝트 최종 구조

서비스는 프론트/백엔드/모델(서빙)을 분리하고, LLM이 필요할 때만 추천/크롤링 도구를 호출하도록 구성했다. 모델은 오프라인 배치 서빙을 선택해 응답 속도와 운영 복잡도를 낮췄다.

rec_architecture

Frontend: Next.js (배포: Vercel)
Backend: FastAPI (AWS EC2), SQLite
AI/LLM: ChatGPT API + MCP(Model Context Protocol)
Model Serving: EASE 기반 Batch Serving

모델링 및 서빙 선택

초기에는 Two-Tower 기반의 온라인 서빙을 고려했지만, 사용자 메타 데이터가 부족한 환경에서 컨텍스트 모델의 효용이 제한적이었다. 실험 결과를 바탕으로 EASE를 선택했고, 운영을 단순화하기 위해 추천 결과를 DB에 저장해두는 Batch Serving으로 전환했다.

모델 선정: EASE (실험 결과 GRU4Rec 대비 성능 우위 관측)
서빙 방식: 미리 inference 결과를 저장해두고 요청 시 조회 + 조건 필터링

rec_wandb

LLM + MCP로 만든 “정확한 해설” 흐름

LLM 출력이 문제 번호만으로는 쉽게 흔들리는(환각/부정확한 설명) 문제가 있었고, 이를 해결하기 위해 “문제 정보를 가져오는 도구”를 별도로 분리했다. 결과적으로 해설 요청 시 LLM은 **문제 상세 정보(제목/설명/입출력 예시)**를 먼저 확보하고 그 위에 답변을 생성한다.