Машинное обучение вики
Advertisement

Отступ (для классификатора) — эвристика, оценивающая то, насколько объект "погружён" в свой класс, насколько эталонным представителем он является. Чем меньше значение отступа, тем ближе объект находится к границе класса, соответственно тем выше вероятность ошибочного прогноза.

Отступ отрицателен классификатор допускает на этом объекте ошибку.

Формальное определение (для линейных классификаторов)[]

Бинарный случай ()[]

Многоклассовый случай[]

,

— истинный класс объекта .

Через дискриминантные функции[]

С дискриминантная функция, характеризующая принадлежность объекта классу. Тогда

.

Формальное определение (kNN)[]

Зададим , где — ближайший сосед объекта .

,

где — правильный класс для объекта .

Классификация объектов в зависимости от отступа[]

Отрицательный отступ означает, что объект классифицирован неправильно, положительный — правильно. Модуль отступа показывает, насколько классификатор был "уверен" в ответе.

Margins.png

Выбросы — объекты, классифицируемые неправильно, с большим отрицательным значением отступа.

Пограничные объекты — объекты с малым по модулю отступом.

Типичные объекты — объекты, которые правильно классифицированы, с большим значением оступа.

Эталоны — объекты с наибольшим значением отступа.

Пороги определяются отдельно в каждом конкретном случае.

Источники[]

Лекции Китова, слайд 38

Книжка Воронцова, страница 47

Advertisement