К основному содержимому
COBALT CAPITAL
← Вся команда
Гипотезы, проверка, данные

Иван «Noob_X»

Руководитель исследовательского подразделения
Лет опыта
14
Направление
Руководитель исследовательского подразделения
Специализация
Гипотезы, проверка, данные

О специалисте

До прихода в Cobalt Noob_X несколько лет занимался прикладной статистикой вне трейдинга — проверкой гипотез в задачах, где цена ошибки первого рода была так же высока, как и цена бездействия. Оттуда пришла привычка, которая определяет всю его работу сейчас: гипотеза не становится фактом от того, что она понравилась на графике, а становится им только после проверки на данных, которые ещё не видел никто из команды.

В Cobalt Noob_X отвечает за исследовательский конвейер: от первой идеи о рыночной неэффективности до решения, попадёт ли она хотя бы в бумажную торговлю. Большая часть гипотез, которые проходят через его подразделение, отсеивается — и он считает это нормальным результатом работы, а не признаком того, что команда ищет плохие идеи. Его зона ответственности заканчивается там, где начинается распределение реального капитала между одобренными стратегиями — это уже решение портфельного управления, а не исследований.

Опыт

2012
Начал карьеру в прикладной статистике и анализе данных вне финансового рынка
2016
Присоединился к исследовательскому направлению Cobalt, занимался проверкой гипотез для систематических моделей
2018
Ввёл обязательную проверку каждой гипотезы вне выборки, на которой она была найдена
2020
Возглавил исследовательское подразделение, формализовал этапы пути идеи от гипотезы до реального капитала
2022
Добавил поправку на множественное тестирование при оценке новых сигналов, чтобы отсечь случайные совпадения
2024
Пересмотрел процесс проверки после случая с ложноположительным сигналом, прошедшим первичный отбор

Результаты: что сработало и что нет

Успешные стратегии
Поправка на множественное тестирование
После её введения доля гипотез, проходящих первичный отбор, снизилась примерно с трети до одной из семи — а доля тех, что затем подтверждались на небольшом реальном объёме, выросла
Обязательный этап бумажной торговли
Гипотезы, прошедшие проверку вне выборки, дополнительно наблюдаются без реальных денег от одного до трёх месяцев; несколько идей были отклонены именно на этом шаге, ещё до выделения минимального капитала
Ошибки и уроки
Ложноположительный сигнал по паре USD/MXN, 2023 год
Гипотеза о краткосрочной реверсии показала статистически значимый результат на выборке из 14 месяцев и прошла проверку вне выборки на соседнем отрезке того же периода низкой волатильности. Как только волатильность выросла, эффект исчез. Проблема была не в методе проверки, а в том, что оба отрезка — исходный и контрольный — относились к одному и тому же рыночному режиму. Урок: проверка вне выборки должна включать другой режим волатильности, а не просто другой временной отрезок.
Слишком долгое доверие одной модели очистки данных
Почти два года подразделение использовало один и тот же способ очистки исторических тиковых данных для проверок, пока разбор одной неудачной стратегии не показал, что метод сглаживал часть реальных проскальзываний в моменты низкой ликвидности, завышая результат каждой гипотезы, проверенной на этих данных. Пришлось пересчитать оценку по нескольким ранее одобренным моделям задним числом.
← Вся команда

Как Noob_X работает

Для каждой гипотезы Noob_X требует не одну цифру доходности, а набор: результат на выборке, где идея была найдена, результат на отдельной выборке, которую никто из авторов гипотезы не видел на момент её формулировки, и результат в другом режиме волатильности, а не просто в другом временном отрезке. Отдельно оценивается deflated Sharpe ratio — поправка на то, сколько всего вариантов гипотезы было перебрано, прежде чем нашёлся работающий. Идея, показавшая хороший результат на одном из ста перебранных вариантов, статистически ближе к случайности, чем к закономерности, даже если цифра на экране выглядит убедительно.

Ответственность Noob_X заканчивается решением «эта гипотеза прошла проверку и достойна бумажной торговли или небольшого реального объёма». Он не решает, сколько капитала выделить одобренной стратегии в общем портфеле — это вопрос портфельного управления и зона Alex N. Такое разделение сделано намеренно: человек, заинтересованный в том, чтобы его же гипотеза получила больше капитала, плохо годится на роль того, кто определяет размер этой доли.

Главная ошибка, которую он видит у исследователей вне и внутри компании, — тестирование одной и той же идеи в десятках вариаций параметров с последующим предъявлением только лучшего результата как итога исследования. Формально это не подлог: каждый отдельный тест был честным. Но если перебрать 40 комбинаций периода скользящей средней, две-три из них покажут хороший результат просто по теории вероятностей, без всякой рыночной закономерности за этим. Поэтому у Noob_X принято фиксировать количество перебранных вариантов гипотезы до того, как известен результат, а не после.

Успех своего подразделения Noob_X не измеряет числом одобренных стратегий за год — наоборот, здоровым он считает год, где отклонено значительно больше идей, чем принято. Метрика, которая волнует его сильнее, — доля одобренных гипотез, которые продолжают работать спустя год после выхода в реальную торговлю. Если эта доля падает, проблема не в рынке, а в том, что фильтр на входе стал мягче, чем должен быть.

Рабочие принципы

  • Проверка вне выборки — не формальность
    Гипотеза не допускается дальше без результата на данных, которые не участвовали в её поиске, и в другом режиме волатильности, а не просто в другом периоде.
  • Считать количество перебранных вариантов
    Число протестированных версий гипотезы фиксируется заранее — иначе лучший из множества случайных результатов легко принять за закономерность.
  • Отказ — рабочий результат, а не провал
    Большая часть гипотез отсеивается, и это признак того, что фильтр работает, а не что исследовательская группа ищет неудачные идеи.
  • Решение о капитале — не его зона
    Подразделение решает, достойна ли гипотеза проверки на малом объёме. Сколько капитала получит одобренная стратегия — решение портфельного управления, не исследователей.

Частые вопросы

Почему так много гипотез отклоняется на исследовательском этапе?

Потому что подавляющее большинство идей, которые выглядят как закономерность на истории, оказываются совпадением на конкретной выборке. Отклонение гипотезы — не потерянное время, а результат, ради которого выстроен весь процесс проверки; принятая без такой фильтрации идея обходится дороже любого количества отклонённых.

Что такое проверка вне выборки и почему длинной истории для неё недостаточно?

Это проверка гипотезы на данных, которые не участвовали в её поиске. Недостаточно, если контрольный отрезок относится к тому же рыночному режиму, что и исходный: эффект может исчезнуть не потому, что был случайным, а потому, что оба периода были одинаково спокойными или одинаково волатильными.

Как отличить настоящую закономерность от случайного совпадения на истории?

Один из признаков — устойчивость к небольшим изменениям параметров: если сдвиг периода на пару дней ломает результат, скорее всего, найдено совпадение, а не закономерность. Второй — учёт количества перебранных вариантов гипотезы: чем больше их было протестировано, тем выше должна быть планка значимости результата.