AI 블러 파이프라인 — 모델·처리 시간 실측 현황

요약

개선점 논의용 실측 종합(2026-07-23, MSG-142·151·158·207): 30초 영상 AI 처리 ~3분(추론이 80%, 프레임당 ~200ms CPU 고정), 사용자 E2E는 웜 상태 ~4분·콜드 첫 건 5.3분, 처리량 상한 ~20-23건/시간(단일 워커). NFR-003(업로드→인코딩 ≤30초)은 단독 기준 충족(22.6~27.7초)하나 동시 2건부터 AI 경합으로 초과. 시도한 최적화(OpenVINO +5%, 프레임 스킵)는 전부 기각 — 스킵은 도로 씬 번호판 커버 46~62%로 프라이버시 사고. 결론: CPU 지연은 한계. 지연을 줄이는 검증된 경로는 GPU(g4dn 스팟, ~3분→30초 미만)뿐이고, 나머지는 FE 체감 개선·워커 병렬(처리량)이다.

이 노트로 답할 수 있는 질문

• 영상 1건 처리(E2E)에 지금 얼마나 걸리나? 왜 그런가?
• NFR-003(≤30초 인코딩)은 충족하나?
• 프레임 스킵·OpenVINO는 왜 기각됐나?
• vCPU를 늘리면 빨라지나? (아니오 — 처리량만)
• 지연을 줄일 수 있는 옵션과 비용은?
• 처리량 상한과 동시 업로드 시 동작은?

핵심 수치

• 모델: YOLOv11n 얼굴(conf 0.05)+번호판(conf 0.25), PyTorch CPU, imgsz 640, 전 프레임.
• 30초 영상 AI 단독: 3.0~3.8분 (4K 60fps는 9.7분 → 1080p 30fps 다운스케일이 전제).
• E2E(업로드→READY): 웜 3분58초~4분23초 · 콜드 첫 건 5.3분(모델 로드) · 동시 6건 마지막 21분(건당 ~2.6분 선형).
• 단계 비중: 얼굴 추론 39~44% + 번호판 추론 38~43% = 추론 ~80%.
• BE 인코딩: 단독 22.6~27.7초 — NFR-003 충족하나 마진 ~25%, 동시 2건부터 초과(~40초).
• 미채택 최적화: OpenVINO(+5%) · stride 2(도로 번호판 커버 62%) · stride 3(46%).

개선 옵션 (효과 × 비용)

옵션	대상	효과	비용
FE 처리 중 표시·완료 알림	체감	크다	낮음 (상태 필드 기존재)
AI 전용 인스턴스 분리	안정성	BE 경합 제거	월 ~$75
워커 병렬화	처리량만	N배 (지연 불변)	SKIP LOCKED 필요
GPU (g4dn 스팟)	지연	~3분 → 30초 미만	스팟 ~$0.2/hr
모션 게이트 스킵·배치 추론	지연	미검증	실험 필요