Аналитика

Логистическая регрессия на сырых данных часто даёт вполе приемлемые результаты, но стойт перейти к реалным задачам — с десятками признаков, зашумлёнными наблюдениями и тесно связанными переменными — и модель без регуляризации быстр теряет устойчивость. Три классиеских штрафа решают три принципиально разные проблемы: L1 автоматически отбирает информативные признаки, L2 сглаживает и стабилизирует коэффииенты, а Elastic Net сочетает оба […]

Обучение логистической регрессии не сводится к минимизации среднеквадратичной ошибки — модель ищет такие коэффициенты, при которых наблюдаемые данные становятся наиболее вероятными. Этот принцип, называемый максимизацией правдоподобия (MLE), лежит в основе всей логистической классификации: от скоринга заёмщиков до оценки вероятности роста цены квартиры. Разберём его досконально — от математического обоснования до практических нюансов.
Что такое правдоподобие и зачем […]

Когда аналитику нужно не просто отнести объект к какой-то категории, а оценить вероятность события — будь то дефолт ипотечного заёмщика, рост цены на квартиру или отклик на рекламное предложение, — на помощь приходит логистическая регрессия. В отличие от линейной, она работает с ответом вида «да/нет», но делает это через вероятности, что особенно удобно для практической […]

Логистическая регрессия не выбирает класс объекта напрямую — она строит вероятность того, что событие произойдёт. Решение о присвоении метки «0» или «1» принимается отдельно, на основе этой вероятности и выбранного порога. Ключевую роль в механизме модели играют две математически связанные конструкции: логит и сигмоида. Логит переводит вероятность в неограниченную линейную шкалу логарифма шансов, а сигмоида возвращает […]