Visualizacao de Regressao Linear
Simulacao interativa para OLS, GD e SGD.
A regressao linear estima uma relacao de linha reta entre uma entrada x e uma saida y.
y = ax + b
Aqui, a e a inclinacao e b e o intercepto. Neste simulador, cada ponto que voce adiciona e uma amostra de treino e o modelo encontra os melhores a e b.
O modelo minimiza o erro quadratico medio (MSE):
$$ MSE(a,b) = \frac{1}{n}\sum_{i=1}^{n}(y_i-(ax_i+b))^2 $$
O quadrado penaliza mais erros grandes e fornece um alvo de otimizacao suave. Menor perda significa melhor ajuste.
- OLS: Forma fechada e de uma vez.
- Batch GD: Usa todas as amostras por epoca, estavel porem mais pesado.
- SGD: Atualizacoes com uma unica amostra embaralhada, mais rapido porem mais ruidoso.
Use os mesmos pontos e compare as curvas de aprendizado de cada metodo.
- Adicione pontos ou carregue dados de demonstracao.
- Execute OLS primeiro para obter uma linha base.
- Troque para GD/SGD e ajuste taxa de aprendizado e epocas.
- Use o Modo de teste para inspecionar valores reais vs previstos.
Clique para adicionar pontos. Pressione e segure um ponto para remove-lo.
Perda (MSE)
Modelo
Notas do metodo
OLS
Solucao de forma fechada a partir de covariancia e variancia:
$$ a = \frac{\sum (x_i-\bar{x})(y_i-\bar{y})}{\sum (x_i-\bar{x})^2}, \quad b = \bar{y} - a\bar{x} $$