Timp de citire: 30 minute
Modelele discriminative, denumite și modele condiționale, sunt o clasă de modele utilizate în clasificarea statistică, în special în învățarea automată supravegheată.
Spre deosebire de modelarea generativă, care studiază din probabilitatea comună P(x,y), modelarea discriminativă studiază P(y|x) i.adică, prezice probabilitatea lui y(țintă) atunci când sunt date x(eșantioane de instruire).
- Să înțelegem acest lucru cu ajutorul unui exemplu matematic:
Supunem că datele de intrare sunt x și setul de etichete pentru x este y. Să considerăm următoarele 4 puncte de date:
(x,y) –> {(0,0), (0,0), (1,0), (1,1)}Pentru datele de mai sus, p(x,y) va fi următoarea:
în timp ce p(y|x) va fi următoarea:
Dacă aruncăm o privire la aceste două matrici, vom înțelege diferența dintre cele două distribuții de probabilitate.
Atunci, algoritmii discriminativi încearcă să învețe p(y|x) direct din date și apoi încearcă să clasifice datele.
Pe de altă parte, algoritmii generativi încearcă să învețe p(x,y) care poate fi transformat în p(y|x) ulterior pentru a clasifica datele. Unul dintre avantajele algoritmilor generativi este că se poate folosi p(x,y) pentru a genera date noi similare cu datele existente. Pe de altă parte, algoritmii discriminativi oferă, în general, performanțe mai bune în sarcinile de clasificare.
În modelele discriminative, pentru a prezice eticheta y din exemplul de instruire x, trebuie să evaluăm:
care nu face decât să aleagă care este cea mai probabilă clasă y având în vedere x. Este ca și cum am încerca să modelăm granița de decizie între clase. Acest comportament este foarte clar în rețelele neuronale, unde ponderile calculate pot fi văzute ca o curbă de formă complexă care izolează elementele unei clase în spațiu.
- se concentrează pe granița de decizie.
- mai puternic cu multe exemple.
- nu este conceput pentru a utiliza date neetichetate.
- numai sarcină supravegheată.
Exemple de clasificatoare discriminante
Modelurile discriminante sunt preferate în următoarele abordări:
- Regresie logistică
- Mașină vectorială scalară
- Rețele neuronale tradiționale
- Cercetarea celui mai apropiat vecin
- Câmpuri aleatoare condiționate (CRF)s
Beneficii ale modelului discriminant
- Modelele discriminante sunt utilizate pentru a obține o precizie mai bună pe datele de instruire.
- Când datele de instruire sunt mari ,precizia pentru datele viitoare va fi bună.
- Când numărul de parametri este limitat, un model discriminativ va încerca să optimizeze predicția lui y din x, în timp ce un model generativ va încerca să optimizeze predicția comună a lui x și y. Din acest motiv, modelele discriminative depășesc modelele generative la sarcinile de predicție condiționată.
.