مختبر الانحدار العصبي غير الخطي
ملاءمة منحنيات غير خطية باستخدام perceptron متعدد الطبقات، ثم ملاحظة تباعد التدريب/التحقق عند الإفراط في التدريب.
على عكس الانحدار الخطي y=ax+b، يستخدم هذا المختبر طبقات مخفية لتعلم تحويلات غير خطية من x إلى y.
$$\hat{y}=W_L\,\phi(W_{L-1}\phi(\cdots\phi(W_1x+b_1)\cdots)+b_{L-1})+b_L$$
اختر العمق والعرض ودالة التفعيل للتحكم في سعة النموذج.
الهدف هو متوسط مربع الخطأ على جزء التدريب:
$$\text{MSE}=\frac{1}{n}\sum_{i=1}^{n}(y_i-\hat{y}_i)^2$$
يظهر الإفراط في التعلّم عندما يستمر انخفاض خسارة التدريب بينما تتسطح خسارة التحقق أو ترتفع.
انقر لإضافة عينات. في وضع الاختبار، انقر على قيمة x لعرض y المتوقعة والباقي.
حالة التدريب
النقاط: 0
تدريب / تحقق: 0 / 0
عصر: 0
خسارة التدريب: -
خسارة التحقق: -
التفسير
- النقاط الزرقاء: جزء التدريب، البرتقالية: جزء التحقق.
- المؤشر الأصفر في وضع الاختبار: المخرج المتوقع عند x المختارة.
- إذا انخفضت خسارة التدريب لكن ارتفعت خسارة التحقق، فالسعة عالية جدًا أو التدريب طويل.
- جرّب تنظيم L2 أقوى أو طبقات مخفية أصغر لتقليل الإفراط في التعلّم.