Diszkriminatív modell

Az olvasási idő:

A diszkriminatív modellek, más néven feltételes modellek, a statisztikai osztályozásban, különösen a felügyelt gépi tanulásban használt modellek egyik osztálya.

A generatív modellezéssel ellentétben, amely a P(x,y) együttes valószínűségből vizsgálódik, a diszkriminatív modellezés a P(y|x) i.azaz megjósolja y(cél) valószínűségét, ha adott x(gyakorló minták).

  • Megértjük ezt egy matematikai példa segítségével:

Tegyük fel, hogy a bemeneti adat x, és az x címkék halmaza y. Tekintsük a következő 4 adatpontot:

(x,y) –> {(0,0), (0,0), (1,0), (1,1)}

A fenti adatok esetében p(x,y) a következő lesz:

input_data

míg p(y|x) a következő lesz:

output_data

Ha megnézzük ezt a két mátrixot, megértjük a két valószínűségi eloszlás közötti különbséget.

A diszkriminatív algoritmusok tehát közvetlenül az adatokból próbálják megtanulni a p(y|x) értéket, majd megpróbálják osztályozni az adatokat.

A generatív algoritmusok viszont megpróbálják megtanulni a p(x,y) értéket, amelyet később p(y|x) értékké alakíthatnak át az adatok osztályozásához. A generatív algoritmusok egyik előnye, hogy a p(x,y) segítségével a meglévő adatokhoz hasonló új adatokat generálhat. Másrészt a diszkriminatív algoritmusok általában jobb teljesítményt nyújtanak osztályozási feladatokban.

A diszkriminatív modellekben ahhoz, hogy az y címkét megjósoljuk az x gyakorló példából, ki kell értékelnünk:

loiUt

ami csupán azt választja ki, hogy az x figyelembevételével mi a legvalószínűbb y osztály. Ez olyan, mintha az osztályok közötti döntési határt próbálnánk modellezni. Ez a viselkedés nagyon jól látható a neurális hálózatokban, ahol a kiszámított súlyok egy bonyolult alakú görbének tekinthetők, amely egy osztály elemeit különíti el a térben.

  • fókuszál a döntési határra.
  • nagyon sok példával erősebb.
  • nem címkézetlen adatok használatára tervezték.
  • csak felügyelt feladat.

Diszkriminatív osztályozók Példák

A diszkriminatív modelleket a következő megközelítésekben részesítik előnyben:

  • Logisztikus regresszió
  • Skalárvektor gép
  • Tradicionális neurális hálózatok
  • Legközelebbi szomszéd keresés
  • Conditional Random Fields (CRF)s

Diszkriminatív modell előnyei

  • A diszkriminatív modelleket a gyakorló adatok jobb pontosságának elérésére használják.
  • Ha a képzési adatok nagyok ,a jövőbeli adatok pontossága jó lesz.
  • Ha a paraméterek száma korlátozott, a diszkriminatív modell megpróbálja optimalizálni az y előrejelzését x-ből, míg a generatív modell megpróbálja optimalizálni az x és y együttes előrejelzését.

Emiatt a diszkriminatív modellek felülmúlják a generatív modelleket a feltételes előrejelzési feladatokban.

Vélemény, hozzászólás?

Az e-mail-címet nem tesszük közzé.