Машинное обучение вики
Advertisement

Пусть рассматривается задача классификации с классами.

One-versus-all подход[]

11.png

  • Обучим на всех объектах тренировочной выборки бинарных классификаторов типа "принадлежит ли объект -ому классу".
  • В результате получим классификаторов .
  • Ответ ищется, как .

One-versus-one подход[]

2.png

  • Обучим бинарных классификаторов следующим образом: для каждой пары обучим бинарный классификатор на тех объектах тренировочной выборки, ответ которых принимает значение или .
  • В результате получим классификаторов .
  • На этапе предсказания каждый из всех обученных классификаторов возвращает индикатор принадлежности соответствующему классу. Тот класс, за который проголосовало большинство и будет ответом на данном объекте:

.

Коды, исправляющие ошибки[]

  • Каждый номер класса кодируется бинарным вектором , состоящим из бит, причем, .
  • Строится бинарных классификаторов , которые предсказывают -ый бит.
  • Ответ ищется как , где --- -ый бит кодового слова для класса .
  • Чем больше бит используется при кодировании классов, тем более модель устойчива к ошибкам классификаторов.
  • Кодирование производится рандомно или так, чтобы попарные расстояния Хэмминга между кодами были как можно больше.

Ещё по этой теме здесь.

Ссылки[]

слайды Китова

слайды Китова

Advertisement