Laboratorio visual de regresion logistica
Simulacion de clasificacion binaria con aprendizaje de frontera sigmoide.
La regresion logistica predice la probabilidad de pertenencia a una clase para objetivos binarios.
$$ \hat{y} = \sigma(z), \quad z = mx + b, \quad \sigma(z)=\frac{1}{1+e^{-z}} $$
El modelo produce valores entre 0 y 1. Un umbral como 0.5 convierte la probabilidad en etiquetas de clase.
El objetivo de entrenamiento minimiza la log-verosimilitud negativa:
$$ L(m,b)=-\frac{1}{n}\sum_{i=1}^{n}\left[y_i\log(\hat{y_i})+(1-y_i)\log(1-\hat{y_i})\right] $$
Esta perdida penaliza fuertemente las predicciones erroneas con alta confianza, mejorando la calibracion de probabilidades.
Para regresion logistica de una sola caracteristica, los gradientes por lote son:
$$ \frac{\partial L}{\partial m}=\frac{1}{n}\sum(\hat{y_i}-y_i)x_i,\quad \frac{\partial L}{\partial b}=\frac{1}{n}\sum(\hat{y_i}-y_i) $$
$$ m \leftarrow m-\eta\frac{\partial L}{\partial m},\quad b \leftarrow b-\eta\frac{\partial L}{\partial b} $$
Tasas de aprendizaje mas bajas mejoran la estabilidad, mientras que tasas mayores convergen mas rapido pero pueden oscilar.
- Agrega puntos de clase manualmente (banda inferior para clase 0, banda superior para clase 1) o carga datos aleatorios.
- Entrena con Entrenamiento automatico y monitorea la caida de la perdida.
- Usa Paso para inspeccionar el comportamiento por iteracion.
- Activa el Modo de prueba y haz clic para inspeccionar la probabilidad predicha en cualquier posicion de entrada.
Haz clic en el lienzo para agregar puntos. Los puntos cerca de y=0 representan la clase 0 y los puntos cerca de y=1 representan la clase 1.
Curva de perdida
Guia de interpretacion
- La curva en S amarilla es la funcion de probabilidad aprendida.
- Los puntos rojos son clase 1, los puntos cian son clase 0.
- La zona de transicion central aproxima el limite de decision.
- La disminucion de la perdida indica mayor confianza de clasificacion.