A/B test 2

2024년 1분기 회고글

벌써 4월 중순에 들어서 오늘은 날씨가 무려 27도네요! 최근 긴팔, 겉옷이 적당한 봄 날씨였는데 금세 여름날씨가 될 것 같네요. 오늘은 조금 지났지만 2024년 1분기를 돌이켜보는 글을 작성하려고 합니다. 1분기에는 방향성을 정하고 스터디를 시작한 기점이었다고 생각 드네요. 떠오르는 키워드 A/B test 스터디 글또 개인 스터디 건강 A/B test 스터디 좋은 기회로 A/B test, 온라인 통제실험에 관한 스터디에 참여하게 되었습니다. 가짜연구소 커뮤니티의 [인과추론 팀, 온라인 통제 실험 연구자로 거듭나기]이며 2024.03 ~ 2024.07 약 4개월간 [A/B 테스트 - 신뢰할 수 있는 온라인 종합 대조 실험] 책을 학습하고 논의를 나눕니다. 스터디 소개 글 : https://www.noti..

일상 2024.04.13

자동화 A/B test Algorithm : Multi Armed Bandits test

개요 요즘 추천시스템 개발 업무를 진행하면서 추천시스템 성능을 어떻게 측정할까, 어떻게 객관적인 성능을 제시할 수 있을까에 대해 고민하고 있습니다. 추천시스템의 성능, 인과효과를 측정하기 위한 다양한 방법들 중 A/B test가 가장 보편적이며 유용하게 사용되고 있으며 마케팅 효과 측정 등 다양한 분야에서 적용되고 있습니다. 하지만 어렵지 않아 보이는 세팅으로 장점을 가지는 A/B test에도 한계점들이 분명히 있으며 신뢰할 수 있는 온라인 실험환경을 위해 다양한 연구들이 진행되고 있습니다. 이번 포스팅은 A/B test의 한계점에 대해서 알아보고 이를 개선하기 위한 방안 중 대표적인 Multi Armed Bandits test에 대해서 알아보겠습니다. A/B test는 만능일까? 수많은 의사결정이 사람..

AB test 2024.03.03