مقدمه در آموزش شبکه‌های عصبی عمیق، گرادیان کاهشی ساده و حتی نسخه‌های مبتنی بر Momentum می‌توانند با نوسان در مسیر ... ادامه مطلب

مقدمه در آموزش شبکه‌های عصبی عمیق، یکی از چالش‌های اساسی بهینه‌سازی، وابستگی شدید عملکرد الگوریتم‌ها به انتخاب نرخ یادگیری است. ... ادامه مطلب

مقدمه در آموزش شبکه‌های عصبی عمیق، یکی از چالش‌های اساسی، تنظیم مناسب نرخ یادگیری برای پارامترهایی است که رفتار گرادیان ... ادامه مطلب

مقدمه در فرآیند آموزش شبکه‌های عصبی، یکی از چالش‌های مهم گرادیان کاهشی کلاسیک، حساسیت بالا به مقیاس گرادیان‌ها و ناپایداری ... ادامه مطلب