Машинное обучение вики
Advertisement

Мы хотим совершить преобразование признаков . При этом мы зададим не преобразование , а скалярное произведение в новом пространстве признаков.

Определение[]

Функция называется ядром, если она может быть представлена в виде для какой либо функции

Теорема Мерсера[]

Функция является ядром тогда и только тогда, когда:

  1. Она симметрична:
  2. Она неотрицательно определена, то есть для любой конечной выборки матрица неотрицательно определена

Типичные ядра[]

  • Линейное:
  • Полиномиальное:
  • RBF-ядро:

Почему ядра так выглядят и какую роль играют и можно посмотреть в семинарах Соколова с 7й страницы

Какие методы могут быть обобщены через ядра:[]

  • ridge regression
  • SVM
  • K-NN (так как расстояние можно записать как функцию от скалярных произведений следовательно и в терминах функции ядра)
  • PCA (откуда здесь взялись скалярные произведения можно посмотреть в лекциях Воронцова про метод главных компонент)
  • и т.д.

Ссылки[]

Advertisement