실험 결과를 곧바로 예산에 반영하면 왜 사고가 나는가

증분성 실험의 결론은 대개 "이 채널의 실제 기여는 리포트 수치보다 작다"처럼 누군가의 예산을 줄이는 방향입니다. 이 결과를 담당자가 바로 집행하면 두 가지 문제가 생깁니다. 첫째, 실험이 커버한 범위 밖까지 결론이 확대 적용됩니다. 특정 지역·특정 오디언스·특정 기간에서 확인한 효과를 전체 계정에 적용하면 검증되지 않은 일반화가 됩니다. 둘째, 결과가 나쁜 쪽 채널의 담당자나 매체 파트너가 결정 과정을 몰랐다는 이유로 분쟁이 생깁니다. 제휴 영역의 관찰이지만 시사점은 같습니다 — 대부분의 성과 귀속 갈등은 애초에 누가 기여를 인정받는지 결정하는 정책 자체를 상대가 본 적이 없어서 발생하며, 명확한 문서를 사전에 공유하는 것이 분쟁이 되기 전에 푸는 방법으로 꼽힙니다. 그러니 승인 프로세스의 목적은 결재를 늘리는 게 아니라, 결정의 근거와 범위를 관련자 전원이 같은 문서로 보게 만드는 데 있습니다.

승인 안건에 실려야 할 자료는 무엇인가

안건 문서에는 최소한 다음이 들어가야 합니다. ① 실험 설계 요약 — 무엇을 홀드아웃했고 표본과 기간이 얼마였는지, 대조군이 실제로 노출에서 격리됐는지(지역 실험이라면 예산 축소가 아니라 캠페인 일시중지였는지). ② 결과 — 증분 효과 추정치와 신뢰구간, 채택한 유의수준·검정력. 점추정치만 적은 안건은 반려 대상으로 두는 편이 낫습니다. ③ 적용 범위 — 이 결과가 유효한 채널·지역·오디언스·기간의 경계. ④ 예산 변경안 — 어느 계정에서 얼마를 어디로 옮기는지, 단계적으로 옮긴다면 그 일정. ⑤ 되돌리는 조건 — 어떤 지표가 며칠 안에 어느 수준으로 나빠지면 원상 복구하는지. ⑥ 측정 전제 — 반영 시점 기준 기여 설정·리포팅 버퍼가 무엇인지. 전환 지연 때문에 최근 며칠 데이터는 계속 채워지므로, 버퍼 이내 데이터로 최종 판단하지 않는다는 원칙을 안건에도 명시합니다. ⑦ 반대 근거 — 이 결정을 반대할 수 있는 가장 강한 논리와 그에 대한 답변. ⑦번을 넣어두면 회의에서 나올 반론을 미리 소화하게 되어 승인 속도가 오히려 빨라집니다.

승인 단계와 권한은 어떻게 정하는가

여기서 분명히 해둘 것이 있습니다. 증분성 실험 결과를 예산에 반영할 때 몇 단계 결재를 거쳐야 하는지, 담당자 전결 한도가 얼마인지에 대한 업계 표준이나 공식 기준은 확인된 바 없습니다. 그러니 남의 조직 숫자를 베끼지 말고 우리와 광고주가 함께 정해야 합니다. 정해야 할 항목은 다음과 같습니다. ① 변경 규모별 승인자 — 금액 기준인지 비율 기준인지 먼저 정하고, 구간별로 누가 승인하는지 정합니다. ② 광고주 측 최종 승인자와 대행사 측 제안자를 각각 실명으로 지정합니다. ③ 승인 소요 기간의 상한 — 언제까지 답이 없으면 어떻게 처리할지. ④ 긴급 변경 예외 — 소진 급증·정책 위반 같은 상황에서 선조치 후보고가 가능한 범위와 사후 보고 기한. ⑤ 승인 기록의 보관 위치와 형식. 이 다섯 가지를 한 페이지로 합의해 계약서 부속 문서나 운영 매뉴얼에 붙이십시오. 합의 자체보다 합의를 문서로 남기는 행위가 나중에 분쟁을 줄입니다.

계약과 데이터 권한에서 미리 확인할 것은 무엇인가

실험 데이터를 다루고 예산을 옮기는 일은 계약 조건 위에서 굴러갑니다. 먼저 광고 계정과 픽셀의 소유 관계를 봅니다. 계약서에 '광고주 소유, 대행사는 운영 권한만 위임'이라는 문구가 명시돼 있는지가 계약 종료 시 자산 보호의 핵심이며, 계정이 대행사 명의로 개설되고 이관 조항이 없으면 종료 시 계정을 그대로 넘기지 못하고 픽셀·잠재고객 데이터를 백업해 새 계정으로 옮기는 상황이 생깁니다. 다음으로 개인정보 처리 위탁 구조를 봅니다. 개인정보 처리 업무위탁계약서에는 관련 법규 준수, 비밀유지, 제3자 제공 금지, 사고 시 책임 부담, 위탁기간, 처리 종료 후 반환 또는 파기 의무 등을 규정하도록 하는 것이 위탁자의 의무로 설명됩니다. 위탁 기간이나 계약이 종료되면 원칙적으로 5일 이내에 수탁자가 보유한 개인정보를 파기하거나 위탁자에게 반환해야 하고, 파기 시에는 복원이 불가능하도록 완전히 파기해야 합니다. 다만 구체적 기한·절차는 개별 계약서 약정에 따라 달라질 수 있으므로 실제 문구를 확인하십시오. 광고주 측에는 수탁자를 교육하고 처리 현황을 점검·감독할 법적 의무가 있으므로, 대행사 입장에서는 점검에 응할 창구와 자료 양식을 미리 갖춰두는 편이 유리합니다.

반영한 뒤에는 무엇을 기록하고 언제 되돌리는가

승인은 끝이 아니라 관찰 구간의 시작입니다. 반영 직후 기록해야 할 것은 ① 실제 변경일시와 변경자 ② 변경 전후 예산·설정값 ③ 관찰할 지표와 관찰 기간 ④ 되돌림 판단 시점입니다. 관찰 기간을 정할 때는 전환 지연을 감안해 버퍼 이내 데이터로 성급히 판단하지 않도록 합니다. 실험 결과를 모델에 되먹이는 구조라면 이 기록이 더 중요해집니다 — Meridian은 A/B 테스트나 증분성 실험 데이터로 모델을 보정하는 기능을 공식 지원하는데, 보정용 실험 데이터 자체가 부실하면 보정 효과도 제한적이기 때문입니다. 어떤 실험 결과를 언제 모델에 넣었는지 기록해두지 않으면, 나중에 모델 결과가 흔들릴 때 원인을 추적할 수 없습니다.

분쟁을 막는 문서화는 어디까지 해야 하는가

성과 귀속 분쟁의 흔한 원인은 어긋나는 추적 시스템, 모호한 정산·기여 규칙, 일관되지 않은 리포팅 관행입니다. 반대로 실시간으로 확인 가능한 대시보드, 계약서에 명시된 명확한 기준, 대조를 통한 감사 추적(audit trail) 유지는 분쟁을 줄이는 실무로 꼽힙니다. 그리고 잘 문서화된 분쟁 해결 절차를 갖췄다는 사실 자체가 그 운영이 성숙하다는 신호로 여겨집니다. 대행사 입장에서 이 말의 실무적 의미는 분명합니다 — 분쟁이 생긴 뒤 자료를 모으지 말고, 평소 승인 기록·실험 로그·설정 변경 이력을 같은 위치에 쌓아두라는 것입니다. 그 축적물이 있으면 이견이 생겨도 사실관계 확인 단계에서 대부분 정리됩니다.