Tiempo de lectura: 30 minutos
Los modelos discriminativos, también denominados modelos condicionales, son una clase de modelos utilizados en la clasificación estadística, especialmente en el aprendizaje automático supervisado.
A diferencia del modelo generativo, que estudia a partir de la probabilidad conjunta P(x,y), el modelo discriminativo estudia la P(y|x) i.Es decir, predice la probabilidad de y(objetivo) cuando se dan x(muestras de entrenamiento).
- Entendamos esto con la ayuda de un ejemplo matemático:
Supongamos que los datos de entrada son x y el conjunto de etiquetas para x es y. Consideremos los siguientes 4 puntos de datos:
(x,y) –> {(0,0), (0,0), (1,0), (1,1)}Para los datos anteriores, p(x,y) será la siguiente:
mientras que p(y|x) será la siguiente:
Si echamos un vistazo a esas dos matrices, entenderemos la diferencia entre las dos distribuciones de probabilidad.
Así que los algoritmos discriminativos tratan de aprender p(y|x) directamente de los datos y luego tratan de clasificar los datos.
Por otro lado, los algoritmos generativos tratan de aprender p(x,y) que se puede transformar en p(y|x) más tarde para clasificar los datos. Una de las ventajas de los algoritmos generativos es que se puede utilizar p(x,y) para generar nuevos datos similares a los existentes. Por otro lado, los algoritmos discriminativos suelen dar un mejor rendimiento en tareas de clasificación.
En los modelos discriminativos, para predecir la etiqueta y a partir del ejemplo de entrenamiento x, debemos evaluar:
que se limita a elegir cuál es la clase y más probable teniendo en cuenta x. Es como si intentáramos modelar la frontera de decisión entre las clases. Este comportamiento es muy claro en las redes neuronales, donde los pesos computados pueden verse como una curva de forma compleja que aísla los elementos de una clase en el espacio.
- se centra en el límite de decisión.
- más potente con muchos ejemplos.
- no está diseñado para utilizar datos no etiquetados.
- sólo tarea supervisada.
Clasificadores discriminatorios Ejemplos
Los modelos discriminatorios se prefieren en los siguientes enfoques:
- Regresión logística
- Máquina de vectores escalares
- Redes neuronales tradicionales
- Búsqueda del vecino más cercano
- Campos aleatorios condicionales (CRF)s
Beneficios del modelo discriminativo
- Los modelos discriminativos se utilizan para obtener mayor precisión en los datos de entrenamiento.
- Siempre que los datos de entrenamiento sean grandes, la precisión de los datos futuros será buena.
- Cuando el número de parámetros es limitado, un modelo discriminativo va a intentar optimizar la predicción de y a partir de x, mientras que un modelo generativo intentará optimizar la predicción conjunta de x e y. Debido a esto, los modelos discriminativos superan a los generativos en las tareas de predicción condicional.