¿Qué modelo uso? Guía de decisión

Saber las fórmulas no basta: en el examen (y en la vida real) te van a preguntar por qué usarías un modelo y no otro. Esta página junta todo lo que el curso dice sobre las ventajas, supuestos y limitaciones de cada uno.

¿Qué modelo uso?

Reiniciar

Responde sobre tu problema. El ranking usa las ventajas y limitaciones que se ven en el curso; no reemplaza a la validación cruzada, pero te dice por dónde empezar y por qué.

1. ¿Qué predices?

Un número (regresión)Una categoría (clasificación)

2. ¿Cuántos ejemplos etiquetados tienes?

Pocos (decenas a cientos)MilesCientos de miles o más

3. ¿Cómo esperas que sea la relación / frontera?

Aproximadamente linealCurva y suaveTipo reglas / umbrales / interaccionesNo sé

4. ¿Necesitas explicar el modelo a una persona (médico, regulador)?

Sí, es claveNo especialmente

5. ¿Necesitas probabilidades bien calibradas?

Sí (decidir umbrales, riesgos)Me basta la etiqueta

6. ¿Cómo son tus features?

Muchísimas (texto, genes); quizá más que ejemplosMezcla de numéricas y categóricas, escalas distintasNuméricas, pocas o moderadas

7. ¿Crees que solo unas pocas features importan?

Sí, quiero seleccionarlasNo / no sé

Faltan 7 respuestas.

Tabla comparativa

Modelo	Tipo	Frontera / forma	Supuesto principal	Hiperparámetros	Escalar	Probabilidades	Interpretable
OLS	regresión	hiperplano	relación lineal, ruido gaussiano	—	no (sí para GD)	—	sí (pesos)
Ridge	regresión	hiperplano	muchos efectos pequeños	λ	sí	—	sí
Lasso	regresión	hiperplano esparso	pocas features importan	λ	sí	—	sí (selección)
Logística	clasificación, discriminativo	lineal	log-odds lineal	λ (o C)	sí	sí	sí (odds ratios)
Naive Bayes	clasificación, generativo	puede curvarse	independencia condicional	α (suavizado)	no	sobreconfiadas	sí
LDA	clasificación, generativo	lineal	gaussianas con Σ compartida	—	no	sí	moderado
QDA	clasificación, generativo	cuadrática	gaussianas con Σₖ propias	regularización de Σ	no	sí	moderado
SVM lineal	clasificación, margen	lineal	— (margen máximo)	C	sí	no (Platt)	moderado
SVM RBF	clasificación, margen	curva arbitraria	similitud local suave	C, γ	sí	no (Platt)	no
Kernel ridge	regresión	curva suave	similitud local suave	λ, γ	sí	—	no
Árbol	ambos	cajas alineadas a los ejes	interacciones tipo reglas	profundidad, α	no	mal calibradas si es profundo	muy

Costo computacional (n ejemplos, d features)

Modelo	Entrenar	Predecir	Escala a millones
OLS / ridge (forma cerrada)	$O(nd^2 + d^3)$	$O(d)$	sí con SGD
Logística	iterativo, $O(nd)$ por época	$O(d)$	sí (SGD)
Naive Bayes	una pasada de conteos, $O(nd)$	$O(d)$	sí, el más rápido
LDA / QDA	$O(nd^2 + d^3)$	$O(d^2)$	sí si d es moderado
SVM con kernel	$\sim O(n^2)$–$O(n^3)$, Gram $n\times n$	$O(\#\text{SV}\cdot d)$	no (usar SVM lineal)
Kernel ridge	$O(n^3)$, memoria $O(n^2)$	$O(nd)$	no
Árbol	$\approx O(pn\log n)$	$O(\text{profundidad})$	sí

Reglas que se repiten en el examen

1. Pocos datos o necesitas la densidad ⇒ generativo (NB, LDA). Muchos datos y solo la etiqueta ⇒ discriminativo (logística, SVM).
2. Frontera lineal suficiente ⇒ empieza lineal: es más rápido, interpretable y es tu baseline.
3. Necesitas explicar ⇒ logística (odds ratios), lasso (pocas features) o un árbol podado.
4. Clases desbalanceadas ⇒ no reportes accuracy: precision, recall, F1, ROC/PR; mueve el umbral.
5. Muchas más features que ejemplos ⇒ ridge/lasso, logística L2, SVM lineal o NB. Evita OLS y QDA.
6. Todo hiperparámetro (λ, C, γ, α de poda, profundidad) se elige con validación cruzada, nunca con el test.
7. Estandariza antes de cualquier método con distancias, normas o gradientes; los árboles no lo necesitan.

docsscikit-learn · Linear modelsOLS, Ridge, Lasso, LogisticRegression: fórmulas y parámetros reales.docsscikit-learn · SVMSVC, kernels, C y γ, one-vs-one; incluye la formulación del dual.docsscikit-learn · Decision treesCART, criterios, ccp_alpha y la poda por costo-complejidad.libroISLR / ISLP (James et al.)Libro gratis, citado en las slides. Cap. 3, 4, 5, 6, 8 y 9 cubren todo el parcial.