프로젝트 개요

TheFirstTake는 실시간 채팅을 활용해 다중 LLM 의류 전문가에게 상황에 맞는 실제 의류를 추천받고, 가상으로 입어볼 수 있는 서비스입니다.

활성 사용자 85명 이상을 확보하였습니다.

실제 서비스 링크: https://the-first-take.com (만료됨) 시연 동영상 링크(기능별 타임라인 확인): https://youtu.be/EjHPxWxtp-s

🛠️ 기술 스택

아키텍처

1. 채팅 트래픽 증가로 인해 채팅 메시지 저장 시 DB병목 ⇒ “Redis 캐시 + 배치 저장 적용”
2. 폴링 기반 실시간 채팅의 CPU 병목 ⇒ “SSE 도입으로 성능 개선”
3. 외부 LLM API 장애 대응 체계 구축 ⇒ “실시간 모니터링 + 폴백 로직”
4. [배포 시 서비스 중단 문제 ⇒ “ECS 기반 무중단 배포로 개선”](배포 시 서비스 중단 문제 ⇒ “ECS 기반 무중단 배포로 개선”)
5. Cloudformation을 활용한 IaC도입으로 인프라 자동화

1. 채팅 트래픽 증가로 인해 채팅 메시지 저장 시 DB 병목 ⇒ “Redis 캐시 + 배치 저장 적용”

📌 문제 상황

• 중복 조회와 요청별 개별 트랜잭션 처리로 DB 부하 증가