А/Б-тестирование объявлений

R
На сайте с 15.07.2012
Offline
44
2118

Здравствуйте.

Пытаюсь разобраться с вопросом: как правильно тестировать объявления в Яндекс Директе?

Очевидное решение, которое предлагает сам Яндекс - использовать группы объявлений.

Но насколько я понял, этот метод работает не корректно. Равномерное откручивание объявлений в группе происходит только в начале запуска. Потом, если какое-то объявление показало больший CTR, чем остальные - его доля показов значительно увеличивается. При этом, может возникнуть ситуация (обычно так и происходит), что это объявление показало больший CTR совершенно случайно, показатели статистически не значимы. Несмотря на это, Яндекс отдает предпочтение по показам для этого объявления, снижая долю показов остальных тестируемых объявлений.

Другое решение, поочередное тестирование объявлений.

К примеру, есть метод Перри Маршалла. Создается две кампании с одинаковыми настройками и ключевыми словами. За один раз тестирует только один элемент объявления. Заголовок, тест объявления, быстрые ссылки или картинка (в случае с РСЯ).

Запускается одна кампания, необходимо набрать минимум 30 кликов.

После того, как первая кампания собрала необходимые 30 кликов, она останавливается. Запускается вторая, которая также должна собрать минимум 30 кликов. После анализируются полученные данные.

Можно запускать кампании методом шахматной доски. В один час показывается один вариант объявления, другой час - второй вариант.

Есть ли другие варианты, более эффективные и быстрые?

Lesnoi
На сайте с 28.01.2015
Offline
12
#1

Чтобы иметь данные по А/Б тестированию надо не 30 кликов, а тысяч так 5-10, тогда погрешность будет небольшой.

R
На сайте с 15.07.2012
Offline
44
#2
Lesnoi:
Чтобы иметь данные по А/Б тестированию надо не 30 кликов, а тысяч так 5-10, тогда погрешность будет небольшой.

10 тысяч кликов - это, конечно, здорово. Но далеко от реальности во многих нишах.

Если в нише по целевым запросам 30 тысяч показов в месяц, то чтобы провести максимально точный аб-тест, понадобится полгода. Метод Перри Маршалла - быстрая, но разумеется, менее точная альтернатива полноценному масштабному аб-тесту.

Lesnoi
На сайте с 28.01.2015
Offline
12
#3

В том-то и дело, что нет другого способа как только собирать тысячи и даже десятки и сотни тысяч кликов, чтобы получить результат.

Вы попробуйте запустить две совершенно одинаковые кампании по вашей методике, соберите кликов по 200. Да у вас и там погрешность может быть десятки процентов.

Смысла нет с такой погрешностью что-либо тестировать.

Strik
На сайте с 06.04.2015
Offline
80
#4
Lesnoi:
В том-то и дело, что нет другого способа как только собирать тысячи и даже десятки и сотни тысяч кликов, чтобы получить результат.

Вы попробуйте запустить две совершенно одинаковые кампании по вашей методике, соберите кликов по 200. Да у вас и там погрешность может быть десятки процентов.

Смысла нет с такой погрешностью что-либо тестировать.

Уважаемый, а большой ли у вас опыт тестирования на сотни тысячах кликах? И можно ли по такому случаю привести кейс?

Lesnoi
На сайте с 28.01.2015
Offline
12
#5

Это простая математика начальной школы. Не в обиду, просто факт.

---------- Добавлено 27.08.2015 в 21:17 ----------

Давайте так, ещё проще.

Стоите на остановке (едите в машине не за рулём). Считаем встречных водителей - мужчина/женщина из 100 человек.

1-я сотня. 70 мужчин, 30 женщин.

2-я сотня. 80 мужчин, 20 женщин.

3-я сотня. 45 мужчин, 55 женщин.

Вывод? Никакого. Где тут качественный А/Б тест? Тут надо десятки тысяч посчитать, чтобы сделать статистику с малой погрешностью.

Strik
На сайте с 06.04.2015
Offline
80
#6

Ваша простая математика (статистика) довольно далека от реальности. Существуют тематики и рекламодатели которые физически не могут себе позволить тысячи кликов для А/Б теста. Да вообщем-то таких рекламодателей на пальцах пересчитать можно.

Поэтому проделывать А/Б тест на меньших объемах нормально... только его соответственно надо растянуть по времени. Будет ли он абсолютно репрезентативен? Нет. Будет ли он полезен? Да! Потому что в отличие от объемов в десятки, а то и сотни тысяч кликов где увеличение стр на пару десятых процентов является существенным увеличением прибыли, то у маленького рекламодателя, что 12% СТР, что 12,5% - все едино.

Lesnoi
На сайте с 28.01.2015
Offline
12
#7

Пожалуйста. Запускайте А/Б тест с сотней кликами, делайте неправильные выводы, меняйте оранжевую кнопку за зелёную. Но это зря потраченное время. Это всё видимость какого-то там анализа )

Строков
На сайте с 03.02.2015
Offline
38
#8

Встану в защиту лесного. А\Б тест даже в 300 кликов нихера не дает валидной статистики.

Ладно, не тысячи кликов, как он говорит, но надо действительно дохрена. И реальность такова, что этого дохрена почти нигде нет.

Учитывая то, что Директ криво пилит показы (одно объявление покажет 900 раз, другое - 15) - это вообще глупая затея. Опять же, надо много времени, пилит показы криво, а 90% от СТР объявления - это не текст, а релевантное предложение на очищенный ключ.

Если ты это ВСЕ-ТАКИ сделал - то твои лишние 1.5% СТР (15-16.5%) повлияют на ставку минимально. Если вообще повлияют.

Специалист по Яндекс Директ - с 2012 года, более 300 кампаний. Обучил более 30 человек лично. Блог - яндекс-директ-настройка.рф (http://яндекс-директ-настройка.рф/?utm_source=search)
G
На сайте с 21.05.2015
Offline
12
#9

Присоединяюсь к постам выше - нафига создавать иллюзия действия?

Вы действительно думаете, что эти а/б тесты на мизерных значениях дадут вам больше денег в кошельке?

Столько времени на это люди тратят..лучше бы более стратегическими вещами для бизнеса занимались...

Тестить надо, когда реально есть необходимость, а не когда об этом везде трубят.

Пфу....

Личный блог о контекстной рекламе: http://blog.affcontext.ru (http://blog.affcontext.ru) vk-группа компании: https://vk.com/affcontext (https://vk.com/affcontext)

Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий