Что такое FRI
FRI (Forecast Reliability Index) — это сводная оценка того, насколько публичные проверяемые прогнозы автора сбываются точнее случайной или консенсусной базовой линии. Шкала 0–100, где 50 — паритет: повторять базовую линию недостаточно, чтобы подняться выше. Индекс измеряет результат, а не активность: десять верных прогнозов весят больше ста расплывчатых высказываний.
FRI всегда сопровождается тремя числами — доверительным интервалом, размером выборки и периодом. Без них одно число вводит в заблуждение: высокий FRI на трёх прогнозах и высокий FRI на сорока — это разные утверждения.
Формула
Сердце формулы — skill-score: насколько прогноз лучше опорной вероятности. Для каждого прогноза считается Brier score (квадрат ошибки вероятностной оценки) и сравнивается с Brier базовой линии.
skill = 0 даёт FRI = 50 (паритет), skill > 0 поднимает индекс выше 50, skill < 0 опускает ниже. Подробно о Brier score — на отдельной странице.
Skill измеряет вероятность, а не сам факт
Brier-skill оценивает вероятностную оценку автора. Если автор назвал вероятность («с вероятностью 70%»), мы сравниваем её с базовой линией. Если вероятности нет — а это почти все прогнозы рынка — мы её не выдумываем: подставляем базовую линию, и тогда skill ровно 0. Такой прогноз не получает ни плюса, ни минуса за «уверенность», но по-прежнему идёт в hit-rate. Это убирает асимметрию: при фиксированной подставленной уверенности промах штрафовался бы сильнее, чем награждалось попадание, и любой автор с долей сбываемости ниже ~62% оказывался бы в минусе независимо от мастерства.
Практическое следствие: пока в прогнозах почти нет заявленных вероятностей, FRI у большинства держится у паритета (50), и осмысленно ранжировать авторов можно по hit-rate — доле сбывшихся проверяемых прогнозов. Поэтому hit-rate сейчас выводится как главная метрика, а FRI — как предварительная оценка с доверительным интервалом. Ярлык «итоговый рейтинг» не присваивается, пока вероятностных прогнозов не станет достаточно.
Веса и байесовское сжатие
Не все прогнозы равны. Перед усреднением вклад каждого взвешивается по четырём факторам, затем средний skill автора сжимается к паритету (skill 0 → FRI 50) — это защищает от случайных рекордов на маленьком числе прогнозов и не даёт результатам одного автора утянуть оценку остальных.
| Фактор | Как влияет на вес |
|---|---|
| Горизонт | Длинный горизонт сложнее — попадание весит больше. |
| Ясность формулировки | Чёткие, фальсифицируемые утверждения весят больше размытых. |
| Тир источника (T1–T3) | Надёжно зафиксированный прогноз весит больше пересказанного. |
| Свежесть | Более свежие прогнозы вносят больший вклад в текущий индекс. |
Сжатие к паритету (k = 8)
Средний skill автора сдвигается к паритету (0) тем сильнее, чем меньше у него прогнозов (параметр сглаживания k = 8): shrinked = (n_eff · skill) / (n_eff + k). Поэтому новый автор с двумя удачными прогнозами не получает сразу FRI 90 — индекс отходит от 50 по мере накопления подтверждённых результатов.
Что считается прогнозом, а что слишком размыто
В индекс попадают только проверяемые утверждения о будущем: с активом, направлением или порогом и сроком. Размытые высказывания не судятся — но и не исчезают: они могут храниться как контекст, без влияния на FRI.
| Считается прогнозом | Слишком размыто |
|---|---|
| «USD/RUB ≥ 100 к 31.12.2025 по курсу ЦБ» | «Рубль ждёт непростой год» |
| «ЦБ сохранит ставку на ближайшем заседании» | «Возможны любые сценарии по ставке» |
| «Инфляция превысит 7% по итогам 2025» | «Инфляция остаётся источником риска» |
Правила резолюции
Правило резолюции и источник истины фиксируются до наступления горизонта, чтобы исход нельзя было подогнать задним числом. На дату горизонта прогноз сравнивается с фактом по единственному заранее заданному источнику. Если дата выпала на выходной или праздник, берётся последняя официальная цена или закрытие торгов до этой даты; фактическая дата наблюдения всегда показана в карточке.
- Исход — один из: сбылось · не сбылось · частично · открыт · недействителен.
- «Частично» — только для многосоставных прогнозов с независимыми частями. Обычный точечный промах вне допуска — это «не сбылось», не «частично».
- «Недействителен» — когда условие резолюции перестало быть проверяемым (например, изменился источник истины).
- Прогнозы с неоднозначной формулировкой (диапазон без выверенных границ, многократные решения ЦБ в окне) уходят на ручную проверку и остаются открытыми, а не получают автоматический вердикт.
Допуск зависит от класса актива, а не единый «±5%». Решения ЦБ дискретны и требуют точного совпадения; для рыночных числовых прогнозов применяется допуск по классу:
- Ключевая ставка ЦБ — точное совпадение (14,00% ≠ 14,25%); «около / примерно / в районе» — ±0,25 п.п.
- Инфляция / CPI — ±0,3 п.п. (с «около» — ±0,5 п.п.).
- Валюта — ±1,5% на горизонте до 90 дней, ±2% дальше (±3% только для явно сценарных долгосрочных).
- Индексы — ±2%; отдельные акции — ±2%; нефть и золото — ±2%; крипто — ±2%.
Формулировка задаёт оператор сравнения. «Достигнет / превысит / не ниже X» проверяется как порог (≥ / > X), а не как равенство; «не выше / упадёт до X» — как ≤ X. «Снизит на N б.п. / сохранит ставку» проверяется по фактическому шагу ставки, а не по уровню. «Средняя за период» резолвится как среднее ряда за период; до конца периода — «открыт». Для прогнозов с направлением («вырастет до / снизится до X») база сравнения — значение на момент прогноза, а не за день до горизонта.
Источники истины
У каждого актива — один источник истины, по которому резолвятся все прогнозы по нему. Это исключает спор о том, «по какой котировке» считать:
- Валюта — официальный курс Банка России (биржевой курс — только если автор прямо говорил о торгах/закрытии).
- Ключевая ставка — официальные решения ЦБ РФ; прогнозы про ФРС/ЕЦБ не резолвятся против ставки ЦБ РФ.
- Индексы и акции — Московская биржа. Инфляция (CPI) — годовой ИПЦ Росстата (декабрь к декабрю), с перекрёстной сверкой по Банку России.
- Нефть Brent — дневной ряд EIA/FRED (ICE settlement при явном фьючерсе).
- Золото — в долларах за унцию по LBMA; в рублях за грамм — учётные цены ЦБ. Базис и единица показаны в карточке.
- Нефть Urals — официальная средняя цена Минэкономразвития за месяц/год (на данных Argus). Дневные прогнозы по Urals не оцениваются (нет бесплатного дневного эталона) — помечаются monitoring.
- Криптовалюты (BTC/ETH) — дневное закрытие Kraken (UTC) с перекрёстной сверкой по Coinbase и резервом CoinGecko; институциональный бенчмарк, на который мы равняемся, — CME CF Bitcoin/Ether Reference Rate.
Надёжность самого доказательства, что прогноз был сделан, задаётся тирами T1–T3 — на странице о тирах.
Статус выборки: research / preview / final
Маленькая выборка даёт неустойчивый индекс, поэтому каждая страница с FRI помечается статусом зрелости данных. Финальным рейтинг считается только при достаточном числе разрешённых сравнимых прогнозов на эксперта; до этого — research или preview, и FRI показывается с оговоркой.
Пока в корпусе почти нет прогнозов с заявленной вероятностью, FRI у большинства авторов держится у паритета и носит предварительный характер, поэтому ярлык «итоговый рейтинг» не присваивается, а авторы сравниваются по доле сбывшихся проверяемых прогнозов (hit-rate) с учётом размера выборки.
Главная метрика — hit-rate по закрытым проверяемым прогнозам. Эксперты разделены по размеру выборки: 1–4 — отслеживаются, 5–19 — ранний трек-рекорд, 20+ — основной рейтинг, 50+ — устойчивая выборка. FRI — предварительный вероятностный индекс.
Мы фиксируем высказывания, а не людей
Объект оценки — конкретное публичное утверждение о будущем, а не личность автора. Мы судим прогноз: что именно было сказано, когда, с каким горизонтом и по какому источнику истины это проверяется. Один и тот же человек может иметь и сбывшиеся, и несбывшиеся прогнозы — и то, и другое попадает в выборку без отбора «удобных» случаев.
Поэтому здесь нет ярлыков «эксперт» или «шарлатан». Есть числа: сколько проверяемых прогнозов, сколько из них сбылось, с какой точностью относительно базовой линии. Формулировки фактологичны — «из N проверяемых M сбылись», без оценочных характеристик автора.
Ограничения (честно)
FRI — измерительный инструмент, а не приговор. Радикальная честность о его слабых местах — часть методологии:
- Selection bias. Мы видим прогнозы, которые были публично озвучены и которые удалось зафиксировать. Невысказанные или удалённые оценки в выборку не попадают.
- Некалиброванность оценок ясности. Clarity score — экспертная/модельная оценка, она субъективна на границах и может недооценивать или переоценивать конкретность формулировки.
- Survivorship bias архивов. Хорошо архивированные источники представлены полнее, чем то, что исчезло из сети до фиксации; это смещает выборку к «выжившим» публикациям.
- Неполнота охвата. База не претендует на полноту по автору или рынку. Малые выборки дают широкие интервалы — отсюда статусы research / preview / final.
- Чувствительность к базовой линии. Сейчас явного консенсуса нет ни по одному прогнозу, поэтому базовая линия для всех — наивные 0.5. Из-за этого FRI на текущем корпусе — это, по сути, калиброванная доля сбываемости, а не превосходство над консенсусом; реальную базовую линию по классам активов мы добавим по мере накопления данных.
Константы и доверительный интервал
Все параметры формулы открыты, чтобы любой FRI можно было воспроизвести:
- k = 8 — сила сжатия к паритету: shrinked = (n_eff · skill) / (n_eff + k).
- Базовая линия = 0.5 для всех прогнозов (наивная, пока нет консенсус-данных).
- Заявленная вероятность используется только если автор её назвал; иначе p = базовой линии (skill = 0).
- σ ≥ 0.5 — разброс skill между прогнозами автора, оценивается из данных, но не ниже 0.5 (минимальная неопределённость).
- Доверительный интервал (90%): sd = σ / √(n_eff + k), затем переводится в шкалу FRI. Чем меньше выборка — тем шире интервал.
Пример расчёта
Прогноз «с вероятностью 0.7 ставка снизится» сбылся. Brier(автор) = (0.7 − 1)² = 0.09; Brier(база) = (0.5 − 1)² = 0.25; skill = 1 − 0.09/0.25 = 0.64. Если это единственный прогноз автора (n_eff ≈ 1), сжатие к паритету: shrinked = 1·0.64 / (1 + 8) ≈ 0.071; FRI = 50 + 50·0.071 ≈ 53.6 — с широким интервалом, потому что выборка крошечная. Прогноз без заявленной вероятности дал бы skill 0 и FRI ровно 50, но всё равно учитывался бы в hit-rate.
История версий методологии
Здесь — изменения правил (как считается индекс, что считается прогнозом, как резолвится исход). Ошибки в конкретных вердиктах фиксируются отдельно — в журнале исправлений. Это разные вещи: тут меняется метод, там — исправляется ошибка применения метода.
Интервал Уилсона на hit-rate, ранжирование по нижней границе, стратификация и поправка на базовую частоту.
- Интервал Уилсона (95%) на hit-rate: рядом с долей показывается доверительный интервал [нижняя–верхняя], отражающий неопределённость на малой выборке.
- Ранжирование лидерборда — по нижней границе интервала Уилсона, а не по точечной доле. «3 из 5» (60%, но широкий интервал) больше не встаёт над стабильным треком на шуме; FRI остаётся тай-брейком, эксперты без hit-данных — в конце.
- Стратификация: hit-rate раскладывается по стратам (тип прогноза × класс актива). Видно, что 90% попаданий у эксперта — это направления по валюте, а не точные уровни ставки. Разбивка показана на профиле эксперта.
- Базовая частота и «над базой» (skill-over-chance): для каждой страты считается объединённая по всему корпусу частота сбываемости (включая прогнозы самого эксперта); эксперт сравнивается с ней с поправкой на трудность его набора прогнозов. Значение может быть отрицательным — показывается честно. У доминирующего в выборке эксперта база близка к его же частоте, поэтому «над базой» на текущем корпусе — консервативная оценка.
- Новых ручных порогов не введено: z=1.96 фиксирован, базовые частоты вычисляются из корпуса. Обратная совместимость: старые прогнозы не перерезолвлены, изменился только показ и порядок сортировки.
Диапазоны автоматически скорятся: вхождение + допуск класса на границах.
- Правило диапазонов (§5): вместо «ждать ручной проверки» диапазон теперь скорится автоматически — факт должен попасть в [low − δ, high + δ], где δ — допуск класса актива на соответствующей границе.
- Ширина диапазона шире класс-зависимого cap → флаг range_too_wide: прогноз закрыт и показан на карточке, но исключён из hit-rate и FRI (слишком широкий диапазон не является точным прогнозом).
- «Мусорные» диапазоны (нечитаемые границы, нижняя граница ≤ 0, расхождение с фактом > 5×, ширина > 3×cap, сложная агрегация/нелинейный путь) — направляются в очередь ручной проверки; вердикт не выставляется до решения оператора.
- Границы с пометкой manual_verified (оператор проверил вручную) обходят очередь и скорятся напрямую.
- Параметры правила (cap ширины, допуски, флаги auto_score_ranges) хранятся в таблице methodology_config (draft → publish → версионирование) и доступны в /admin-ui/methodology; ночной конвейер читает опубликованный конфиг.
Подключены источники истины (CPI, крипто, Urals) и зафиксирована политика эталонов.
- Политика эталонов: у каждого скоримого актива — один источник истины, решающий вердикт (показан на карточке); вторичные источники служат резервом и сверкой, но не перебивают основной. Где надёжного эталона нет — прогноз не оценивается (monitoring), а не получает сомнительный вердикт.
- Инфляция (CPI) — подключена авторезолюция по годовому ИПЦ Росстата (декабрь к декабрю), с перекрёстной сверкой по Банку России. Раньше CPI-прогнозы оставались открытыми.
- Криптовалюты (BTC/ETH) — дневное закрытие Kraken (UTC) как основной источник, сверка с Coinbase, резерв CoinGecko; институциональный бенчмарк — CME CF Bitcoin/Ether Reference Rate.
- Нефть Urals — официальная средняя цена Минэкономразвития за месяц/год (на данных Argus): скорятся только средние прогнозы; дневные spot-прогнозы помечаются monitoring (нет бесплатного дневного эталона).
- Закрыт пробел: акции ЛУКОЙЛ/Норникель/ВТБ (LKOH/GMKN/VTBR) теперь резолвятся по Московской бирже наравне с остальными. Введён инвариант: каждый актив имеет источник резолюции — без тихих пропусков.
Допуски по рыночным классам сужены ради доверия к вердикту.
- Допуски рынков сужены: валюта — ±1,5% на горизонте до 90 дней, ±2% дальше (±3% только для явно сценарных долгосрочных); индексы, отдельные акции, нефть/золото и крипто — ±2%. Прежние ±5–10% признаны слишком широкими: большой допуск размывает смысл «сбылось / не сбылось».
- Ключевая ставка (точное совпадение, ±0,25 п.п. при «около») и инфляция/CPI (±0,3 п.п., ±0,5 п.п. при «около») оставлены без изменений.
- Ранее разрешённые рыночные прогнозы перерезолвлены по новым допускам; часть вердиктов и значения hit-rate/FRI соответственно обновлены.
Класс-зависимые допуски, операторы порога и шаг ставки.
- Единый «±5%» заменён допуском по классу актива: ключевая ставка — точное совпадение (или ±0,25 п.п. при «около»); CPI ±0,3 п.п.; валюта ±2,5–3%; индексы ±5%; акции ±7,5%; нефть/золото ±5%; крипто ±10%.
- Введены операторы сравнения: «достигнет/превысит/не ниже» → порог (≥/>), «не выше/упадёт до» → ≤; «снизит на N б.п./сохранит» резолвится по фактическому шагу ставки, а не по уровню.
- Числовые точечные прогнозы теперь участвуют в рейтинге (резолвятся по допуску в сбылось/не сбылось); диапазоны идут в рейтинг только после ручной проверки границ.
- База направления — значение на момент прогноза, а не за день до горизонта. «Средняя за период» считается как среднее ряда за период.
- Прогнозы про ФРС/ЕЦБ не резолвятся против ставки ЦБ РФ; добавлены источники Brent (EIA/FRED) и золота (LBMA в $/унц., учётные цены ЦБ в ₽/грамм с базисом).
- Карточка прогноза показывает цель, факт, ошибку, допуск, оператор, источник истины, эффективную дату и причину исхода.
- Brier-skill начисляется только за явно заявленную вероятность; категориальные и точечные прогнозы без вероятности получают skill 0 (идут в hit-rate, но не штрафуются за подставленную «уверенность») — убрана асимметрия прежней оценки.
- Сжатие индекса — к паритету (skill 0 → FRI 50), а не к популяционному среднему; σ доверительного интервала оценивается из данных (не ниже 0,5).
- Главная публичная метрика — доля сбывшихся (hit-rate); FRI предварительный, ярлык «итоговый рейтинг» не присваивается, пока не накопятся вероятностные прогнозы.
Первая публичная версия правил.
- Зафиксирована формула FRI: skill-score против опорной вероятности, веса по горизонту / ясности / тиру источника / свежести, байесовское сжатие к среднему (k = 8), отображение в шкалу 0–100 (50 = паритет).
- Введены тиры источников T1–T3 и правило резолюции по единственному источнику истины на актив.
- Введён порог research / preview / final по числу разрешённых сравнимых прогнозов (финал — от 20 на эксперта).
Хотите узнавать, когда мы меняем правила? Напишите нам — добавим вас в список оповещения об изменениях методологии (это отдельный канал от журнала исправлений).
Частые вопросы
Частые вопросы
- Можно ли поднять FRI, публикуя больше прогнозов?
- Нет. Индекс считается по точности, а не по количеству. Больше публикаций без точности не двигают FRI вверх.
- Почему у эксперта с верными прогнозами FRI близок к 50?
- Скорее всего, сработало сжатие к паритету: при малом числе прогнозов индекс держится у 50, пока не накопится выборка.
- Что значит FRI ниже 50?
- Что на текущей выборке прогнозы автора в среднем точнее не были, чем базовая линия. Это утверждение о выборке, а не ярлык.
