영상 인코딩 CRF 뜻과 완벽 설정 가이드: 숫자가 낮을수록 고화질인 이유와 용량 최적화 공식

핵심 요약 (Executive Summary)

• 결론: 영상 인코딩에서 **CRF(Constant Rate Factor) 수치가 낮을수록 고화질(고용량)**이며, **수치가 높을수록 저화질(저용량)**입니다.
• 작동 원리: CRF는 비트레이트(전송률)를 고정하지 않고, 사용자가 지정한 '체감 화질 기준'을 일정하게 유지하기 위해 장면의 복잡도에 따라 데이터를 가변적으로 배분하는 지능형 인코딩 방식입니다.
• 실무 권장 수치 (H.264/x264 기준): 유튜브 업로드 및 원본 아카이빙용 마스터 파일은 CRF 17~18(시각적 무손실), 웹 배포 및 일반 스트리밍용은 CRF 20~22, 인코더 기본 표준값은 CRF 23입니다.
• 용량 변화 공식 (6의 법칙): CRF 수치를 6 낮출 때마다 파일 용량은 약 2배 증가하고, 6 높일 때마다 파일 용량은 약 절반(1/2)으로 감소합니다.

영상 편집 프로그램(다빈치 리졸브, 프리미어 프로, 캡컷 등)이나 전문 인코딩 도구(FFmpeg, HandBrake, 샤나인코더 등)에서 영상을 최종 출력할 때 가장 많이 마주치는 옵션이 바로 CRF(Constant Rate Factor)입니다. 또한 파이썬(Python)의 MoviePy나 FFmpeg 라이브러리를 활용해 영상 생성 및 렌더링 자동화 파이프라인을 구축할 때도 반드시 설정해야 하는 핵심 파라미터입니다.

많은 작업자가 처음 CRF 설정을 접할 때 가장 헷갈려 하는 부분이 "숫자를 높여야 화질이 좋아지는가, 낮춰야 좋아지는가?"입니다. 일반적인 점수나 백분율 개념과 달리, CRF는 숫자가 낮을수록 화질이 좋아지는 역방향 구조를 가지고 있습니다.

왜 이런 구조를 가지는지 기술적 원리를 명확히 짚어보고, 코덱별(H.264, H.265) 최적의 설정 수치부터 파일 용량을 예측하는 실무 공식까지 체계적으로 정리합니다.

1. CRF(Constant Rate Factor)란 무엇이며, 왜 숫자가 낮을수록 고화질인가?

1.1 CRF의 기술적 정의

CRF(Constant Rate Factor, 고정 비율 계수)는 x264(H.264), x265(H.265/HEVC), libvpx-vp9, SVT-AV1 등 최신 소프트웨어 비디오 인코더에서 사용하는 '화질 우선 가변 비트레이트 제어 방식'입니다.

과거의 인코딩 방식이 "1초당 무조건 10Mbps의 데이터를 써라(CBR)"라고 명령했다면, CRF는 "처음부터 끝까지 사람이 느끼기에 동일한 수준의 화질을 유지해라"라고 인코더에게 명령하는 방식입니다.

1.2 숫자가 낮을수록 고화질이 되는 원리: 양자화 매개변수(QP)와의 관계

CRF 수치가 낮을수록 화질이 좋아지는 이유를 이해하려면 영상 압축의 핵심 개념인 양자화(Quantization)를 알아야 합니다.

원본 영상(RAW 데이터)은 용량이 상상을 초월할 정도로 큽니다. 이를 우리가 흔히 보는 MP4 파일로 줄이기 위해 인코더는 사람의 눈이 잘 인지하지 못하는 미세한 색상 차이나 고주파 디테일 데이터를 버리는 '손실 압축' 과정을 거칩니다. 이때 "얼마나 많은 데이터를 버릴 것인가(압축할 것인가)"를 결정하는 기준이 바로 QP(Quantization Parameter, 양자화 매개변수)입니다.

• 수치가 0에 가까울 때: "데이터 손실을 거의 허용하지 마라." $\rightarrow$ 버리는 데이터가 없으므로 원본에 가까운 초고화질이 되며, 파일 용량은 매우 커집니다.
• 수치가 51에 가까울 때: "데이터를 최대한 많이 버리고 강력하게 압축해라." $\rightarrow$ 디테일이 뭉개지고 깍두기 현상(블록 노이즈)이 발생하는 저화질이 되며, 파일 용량은 극단적으로 작아집니다.

즉, CRF 수치는 '화질 점수'가 아니라 '데이터 손실 허용치(압축 강도)'를 의미합니다. 따라서 손실 허용치가 낮은 낮은 숫자일수록 고화질이 되는 것입니다.

1.3 사람의 시각 심리학(Psychovisual)을 반영한 스마트한 분배

단순히 압축률만 고정하는 CQP(고정 양자화) 방식과 달리, CRF는 인간의 시각적 특성을 알고리즘에 반영합니다.

사람의 눈은 멈춰 있는 풍경이나 정적인 인터뷰 화면에서 발생하는 미세한 노이즈는 금방 찾아내지만, 스포츠 경기나 화려한 액션 장면처럼 화면 전체가 빠르게 움직일 때는 세부적인 픽셀이 조금 뭉개져도 잘 인식하지 못합니다.

CRF는 이러한 원리를 이용해 정적인 장면에서는 양자화(압축)를 덜 적용해 선명도를 유지하고, 빠르게 움직이는 복잡한 장면에서는 순간적으로 압축률을 살짝 높여 불필요한 비트레이트 낭비를 막아줍니다. 그 결과 고정 비트레이트 방식 대비 최대 20~50%의 용량을 아끼면서도 체감 화질은 훨씬 뛰어나게 만들어 줍니다.

2. 왜 CBR, VBR 대신 CRF를 사용해야 하는가? (인코딩 모드 완벽 비교)

영상 인코딩에서 비트레이트(데이터 전송률)를 제어하는 방식은 크게 CBR, VBR(1-Pass / 2-Pass), CRF 세 가지로 나뉩니다. 각 방식의 차이점을 비교해 보면 왜 현대 영상 작업에서 CRF가 표준으로 자리 잡았는지 명확히 알 수 있습니다.

구분	CBR (고정 비트레이트)	2-Pass VBR (가변 비트레이트)	CRF (고정 비율 계수)
제어 기준	데이터 전송률(Mbps)을 항상 일정하게 고정	목표 평균 전송률(Mbps)과 최종 파일 용량을 고정	체감 화질 수준을 항상 일정하게 고정
화질 일관성	낮음 (복잡한 장면에서 화질 급락)	높음 (전체 영상을 분석해 비트레이트 분배)	최상 (모든 구간에서 균일한 화질 유지)
용량 예측성	정확히 예측 가능	정확히 예측 가능	예측 불가능 (영상의 복잡도에 따라 달라짐)
인코딩 속도	빠름 (1번만 인코딩)	매우 느림 (영상을 2번 인코딩해야 함)	빠름 (1번의 인코딩으로 최적 화질 달성)
주요 활용처	실시간 라이브 방송 (OBS 등), 구형 셋톱박스	정해진 저장 매체(USB, DVD 등)에 용량을 맞출 때	유튜브 업로드, VOD 제작, 영상 보관, 자동화 렌더링

2.1 CBR의 한계와 VBR의 비효율

• CBR(Constant Bitrate)은 검은 화면이 10초 동안 나오든 화려한 폭죽이 터지든 똑같이 초당 10Mbps의 데이터를 할당합니다. 단순한 화면에서는 용량이 낭비되고, 정작 데이터가 많이 필요한 복잡한 화면에서는 비트레이트가 부족해 화면이 깨집니다.
• 2-Pass VBR(Variable Bitrate)은 이를 해결하기 위해 첫 번째 패스(1-Pass)에서 영상 전체를 처음부터 끝까지 스캔하며 어디가 복잡하고 어디가 단순한지 분석한 뒤, 두 번째 패스(2-Pass)에서 본격적인 인코딩을 진행합니다. 화질과 용량을 모두 잡을 수 있지만 인코딩 시간이 약 2배 가까이 오래 걸린다는 치명적인 단점이 있습니다.

2.2 CRF가 최고의 선택인 이유

CRF는 단 한 번의 인코딩(1-Pass)만으로 2-Pass VBR과 완전히 동일한 수준의 화질 최적화 효율을 뽑아냅니다. 최종 파일 용량이 몇 메가바이트(MB)가 될지 미리 정확히 맞출 수 없다는 점만 제외하면, 인코딩 시간은 절반으로 줄이면서 화질은 완벽하게 방어할 수 있는 가장 합리적인 방식입니다.

3. H.264 (x264) 기준 CRF 수치별 화질 및 실무 추천 가이드

가장 대중적으로 사용되는 H.264(x264) 코덱에서 CRF는 0부터 51까지의 정수 및 소수점(예: 18.5)으로 설정할 수 있습니다. 각 구간이 실제 영상에서 어떤 차이를 보이는지, 목적에 따라 어떤 수치를 선택해야 하는지 정리한 실무 기준표입니다.

CRF 구간	화질 등급	상세 특징 및 실무 권장 용도
0	완전 무손실 (Lossless)	압축 손실이 전혀 없는 상태입니다. 원본과 100% 동일하지만 용량이 수십 기가바이트 단위로 폭증하며, 스마트폰이나 일반 미디어 플레이어에서 재생 호환성 오류가 발생할 수 있어 특수 목적 외에는 사용하지 않습니다.
15 ~ 16	초고화질 (오버 스펙)	육안으로는 원본과 구분이 전혀 불가능한 수준입니다. 다만 CRF 18 대비 체감 화질 향상은 거의 없는 반면 용량은 30~50% 이상 더 커지므로 색보정(Color Grading) 마스터 파일이 아니라면 비효율적입니다.
17 ~ 18	시각적 무손실 (권장 마스터)	유튜브·틱톡·릴스 업로드용 마스터 파일 및 영구 보관용 최적 수치입니다. 사람의 눈으로 원본과 차이를 구분할 수 없는 '시각적 무손실(Visually Lossless)' 구간으로, 플랫폼 재인코딩 시 발생하는 화질 열화를 완벽하게 방어합니다.
19 ~ 21	고화질 (실무 밸런스)	화질과 용량의 타협점이 가장 뛰어난 구간입니다. 고화질 강의 영상, 기업 홍보 영상, 블로그 및 웹사이트 직접 탑재용 영상 제작 시 가장 널리 쓰입니다.
22 ~ 23	표준 화질 (기본값)	FFmpeg 등 대부분의 인코더가 채택한 기본값(Default = 23)입니다. 용량이 상당히 가벼워지면서도 일반 모니터나 모바일 화면에서 시청하기에 무난한 화질을 제공합니다.
24 ~ 28	중저화질 (용량 절약형)	파일 크기를 획기적으로 줄여야 할 때 사용합니다. 정적인 화면(PPT 발표, 화면 녹화 등)은 볼만하지만, 움직임이 많은 실사 영상에서는 암부 노이즈나 깍두기 현상이 눈에 띄기 시작합니다.
29 ~ 51	저화질 ~ 열화 심각	영상의 디테일이 심하게 무너지는 구간입니다. 임시 프리뷰(가편집 확인용) 파일이나 네트워크 대역폭이 극도로 제한된 환경이 아니라면 실무에서는 사용하지 않습니다.

4. 반드시 기억해야 할 용량 계산 공식: 'CRF 6의 법칙'

CRF를 조절할 때 많은 사람이 겪는 시행착오가 "화질을 조금 더 높여볼까?" 하고 수치를 23에서 10으로 확 낮추는 것입니다. 이렇게 설정하면 렌더링 후 수백 MB였던 파일이 갑자기 10GB가 넘어가는 당황스러운 결과를 마주하게 됩니다.

CRF 스케일은 선형(Linear)이 아니라 지수(Exponential, 로그 스케일) 방식으로 작동합니다. 여기에는 업계에서 통용되는 명확한 수학적 규칙인 '6의 법칙(Rule of 6)'이 존재합니다.

$$\text{예상 파일 용량} \approx \text{기준 용량} \times 2^{\left(\frac{\text{기준 CRF} - \text{변경할 CRF}}{6}\right)}$$

수식을 직관적인 규칙으로 풀어쓰면 다음과 같습니다.

1. CRF 수치를 6 낮추면 $\rightarrow$ 파일 용량은 약 2배(200%)가 됩니다.
   • 예: CRF 23으로 인코딩했을 때 500MB가 나오는 영상이 있다면, 이를 CRF 17로 낮춰 인코딩하면 용량은 약 1GB(1,000MB)가 됩니다. 만약 CRF 11로 낮추면 용량은 2GB로 뜁니다.
2. CRF 수치를 6 높이면 $\rightarrow$ 파일 용량은 약 절반(50%)으로 줄어듭니다.
   • 예: CRF 23에서 500MB였던 영상을 CRF 29로 높여서 인코딩하면 용량은 약 250MB로 줄어듭니다.
3. CRF 수치를 1씩 조절할 때마다 $\rightarrow$ 파일 용량은 약 12~13%씩 증감합니다.
   • 용량이 너무 커서 살짝만 줄이고 싶다면 CRF를 한 번에 5~6씩 바꾸지 말고, 1이나 2 단위로 미세 조정하는 것이 핵심 노하우입니다.

왜 CRF 17 이하로 낮추는 것이 비효율적인가? (수확 체감의 법칙)

영상 품질 측정 지표인 VMAF(넷플릭스가 개발한 인간 시각 기반 화질 평가 점수, 100점 만점)를 기준으로 보면, CRF 23에서 CRF 18로 낮출 때는 VMAF 점수가 약 92점에서 97점 이상으로 뚜렷하게 상승합니다.

하지만 CRF 17에서 CRF 11로 낮추면 파일 용량은 정확히 2배로 폭증하는 반면, VMAF 점수는 97.5점에서 98.8점으로 고작 1점 남짓 오르는 데 그칩니다. 인간의 눈은 VMAF 95점 이상부터는 원본과의 차이를 사실상 구별하지 못합니다. 즉, CRF 17 미만 구간은 눈으로 볼 수 없는 데이터를 위해 하드디스크 용량만 두 배, 네 배로 낭비하는 구간입니다.

5. 코덱별(H.265, AV1) 및 하드웨어 가속(NVENC) 환경에서의 CRF 설정법

최근에는 H.264뿐만 아니라 압축 효율이 뛰어난 차세대 코덱이나 그래픽카드(GPU)를 이용한 하드웨어 가속 인코딩도 활발히 사용됩니다. 코덱과 인코더 종류에 따라 최적의 CRF 기준점이 달라지므로 주의해야 합니다.

5.1 코덱별 권장 CRF 비교표

코덱 (인코더)	인코더 기본값	시각적 무손실 구간	실무 추천 고화질 구간	특징 및 H.264 대비 차이점
H.264 (libx264)	23	17 ~ 18	20 ~ 22	호환성이 가장 뛰어나며 인코딩 속도가 빠름
H.265 / HEVC (libx265)	28	20 ~ 22	24 ~ 26	H.264 대비 동일 화질에서 용량 약 30~50% 절감
AV1 (libsvtav1)	35	24 ~ 26	28 ~ 32	차세대 오픈소스 코덱, 압축 효율 최상이나 인코딩 부하가 큼

• H.265(HEVC) 사용 시 주의점: H.265는 압축 알고리즘이 훨씬 정교하기 때문에 H.264보다 숫자를 약 4~5 정도 높게 설정해야 비슷한 체감 화질과 큰 용량 절감 효과를 동시에 얻을 수 있습니다. H.264에서 쓰던 습관대로 H.265에서 CRF 18을 주면 불필요하게 용량이 커집니다.

5.2 그래픽카드 하드웨어 가속(NVENC, QSV)에는 'CQ'를 사용합니다

엔비디아 그래픽카드(h264_nvenc, hevc_nvenc)나 인텔 내장 그래픽(qsv), AMD(amf)를 이용한 하드웨어 가속 인코딩에서는 소프트웨어 방식의 -crf 옵션이 작동하지 않는 경우가 많습니다. 대신 CQ(Constant Quality)라는 이름의 옵션을 사용합니다.

• 작동 방식: CRF와 거의 동일한 개념(0~51 스케일, 낮을수록 고화질)으로 작동합니다.
• 설정 팁: GPU 하드웨어 인코더는 빠른 속도를 위해 정밀한 압축 연산을 일부 생략하므로, CPU(소프트웨어) 인코딩과 동일한 화질을 얻으려면 CPU CRF 수치보다 1~2 정도 낮게(더 고화질 쪽으로) 설정하거나 비트레이트 여유를 조금 더 주는 것이 좋습니다. (예: CPU에서 CRF 20을 썼다면, NVENC에서는 CQ 18~19 권장)