지금 읽는 곳테스트 그룹과 통제 그룹은 어떻게 나뉘나목차
STEP 3 고급·전략 › 3-1. 빅테크·애드테크 알고리즘 심화 › 과목 104 › 레슨 03
통계적 실험 설계: 광고 노출 그룹(Test)과 비노출 그룹(Control)을 메타 비즈니스 내부 툴로 정밀 격리하는 리프트 테스트(Lift Test) 인프라
인크리멘털리티를 측정하려면 결국 "누구에게는 광고를 보여주고, 누구에게는 안 보여준다"를 통제된 실험으로 만들어야 합니다 — 메타는 이 격리를 광고주가 직접 코드 없이 할 수 있게 도구화했습니다.
핵심요약
- 메타의 리프트 테스트는 대상 오디언스를 무작위로 테스트(노출)와 통제(비노출/홀드아웃) 그룹으로 나눠 같은 기간 전환 성과를 비교한다
- 통제 그룹에는 광고가 아예 노출되지 않도록 격리해야 하므로 계정 내 다른 캠페인과 오디언스가 겹치면 결과가 오염된다
- 전환 리프트(Conversion Lift)와 브랜드 리프트(Brand Lift)는 서로 다른 제품이며, 측정 목적과 최소 집행 규모가 다르다
- 실험(Experiments) 도구는 Ads Manager의 "측정 및 보고 > 실험" 메뉴에서 접근하며, 크리에이티브·타겟팅 등 단일 변수 비교에는 A/B 테스트가, 매출 자체의 순증분 측정에는 홀드아웃 기반 리프트 테스트가 맞는 도구다
테스트 그룹과 통제 그룹은 어떻게 나뉘나
메타의 리프트 테스트 인프라는 대상 오디언스 전체를 무작위로 두 그룹으로 쪼갭니다. 테스트 그룹에는 평소처럼 광고가 노출되고, 통제(홀드아웃) 그룹에는 해당 캠페인의 광고가 노출되지 않도록 시스템이 차단합니다. 이후 정해진 기간이 끝나면 두 그룹의 전환 성과(구매·매출 등)를 통계적으로 비교해, 그 차이를 광고로 인한 순수 증분으로 계산합니다.
이 구조가 A/B 테스트와 다른 지점은 "무엇을 비교하는가"입니다. A/B 테스트는 서로 다른 두 소재나 타겟팅 버전을 비교해 어느 쪽이 더 나은지를 가립니다. 반면 리프트 테스트는 "광고가 있음"과 "광고가 아예 없음"을 비교합니다. 즉 A/B 테스트의 질문은 "이것과 저것 중 뭐가 나은가"이고, 리프트 테스트의 질문은 "이 캠페인 자체가 매출에 실제로 기여했는가"입니다.
오디언스 오버랩이 실험을 망가뜨리는 이유
통제 그룹에 광고를 아예 노출하지 않는 격리가 핵심인데, 같은 계정 안에 리프트 테스트 대상 캠페인과 타겟팅이 겹치는 다른 캠페인(예: 브랜드 전체를 대상으로 하는 별도 리마케팅 캠페인)이 동시에 돌고 있으면, 통제 그룹으로 배정된 유저가 그 다른 캠페인의 광고를 보게 됩니다. 이렇게 되면 통제 그룹도 사실상 광고에 노출된 셈이 되어 테스트와 통제 그룹 간 차이가 실제보다 작게 측정되고, 증분 효과가 과소평가됩니다.
실무에서는 리프트 테스트를 시작하기 전에 같은 계정, 심지어 같은 비즈니스 관리자 내 다른 광고 계정에서 겹치는 오디언스를 대상으로 하는 캠페인이 있는지부터 점검해야 합니다. 특히 광범위 타겟팅이나 전체 리마케팅처럼 오디언스 범위가 넓은 캠페인은 겹칠 확률이 높아 우선 확인 대상입니다. 테스트 기간 동안에는 관련 캠페인의 예산·타겟팅 변경도 최소화해야 결과의 신뢰도가 유지됩니다.
전환 리프트와 브랜드 리프트는 다른 도구다
메타는 매출·전환을 증분으로 측정하는 전환 리프트(Conversion Lift)와, 인지도·선호도 같은 브랜드 지표를 증분으로 측정하는 브랜드 리프트(Brand Lift)를 별도 제품으로 운영합니다. 브랜드 리프트는 설문 기반으로 진행되고 미국 기준 스터디 전체 예산이 훨씬 크게 요구된다고 알려져 있는데, 정확한 최소 금액은 국가·업종별로 메타가 개별 안내하므로 특정 수치를 단정하기보다 담당 매니저나 Ads Manager 실험 생성 화면에서 직접 확인하는 편이 안전합니다.
브랜드 캠페인의 인지도 개선을 확인하고 싶다면 브랜드 리프트를, 퍼포먼스 캠페인이 실제 매출을 얼마나 늘렸는지 확인하고 싶다면 전환 리프트를 선택해야 합니다. 두 도구를 혼동해서 매출 증분을 확인하려는 목적으로 브랜드 리프트를 돌리면 원하는 답을 얻을 수 없습니다.
실험(Experiments) 도구와 리프트 테스트의 접근 경로
Ads Manager 상단의 "측정 및 보고(Measure & Report) > 실험" 메뉴에서 A/B 테스트와 리프트 테스트 양쪽에 접근할 수 있습니다. A/B 테스트는 캠페인 그룹·캠페인·광고 세트 단위로 2~5개 버전을 무작위·비중복 오디언스로 나눠 비교하는 구조이고, 이는 크리에이티브나 입찰 전략처럼 단일 변수를 비교하는 데 적합합니다. 반면 캠페인 자체의 존재 여부에 따른 순매출 증분을 알고 싶다면 홀드아웃 구조의 리프트 테스트를 선택해야 합니다. 목적에 맞지 않는 도구를 선택하면 원하는 질문에 대한 답이 나오지 않으므로, 실험을 설계하기 전에 "무엇을 비교할 것인가"부터 명확히 정하는 게 우선입니다.
실험 설계 전 점검해야 할 표본 크기 감각
통계적으로 유의미한 리프트 결과를 얻으려면 테스트·통제 두 그룹 모두에서 전환 이벤트가 충분히 쌓여야 합니다. 표본이 부족한 상태에서 조기에 결과를 판단하면 실제로는 차이가 없는데 우연히 차이가 있는 것처럼 보이는(혹은 그 반대) 오판이 나올 수 있습니다. 리프트 테스트를 시작할 때 Ads Manager가 화면에 안내하는 예상 신뢰구간·최소 표본 요건을 실험 종료 전까지 참고 지표로 계속 확인하는 습관이 필요합니다. 이 부분의 구체적인 최소 전환 볼륨과 사전 데이터 기간은 다음 레슨에서 다룹니다.