رگرسیون خطی (Linear Regression) در یادگیری ماشین

مقدمه رگرسیون خطی (Linear Regression) یکی از ساده‌ترین و در عین حال پرکاربردترین الگوریتم‌های یادگیری ماشین است که هدف آن پیدا کردن یک رابطه‌ی تقریبی بین یک یا چند ویژگی (Feature) و یک متغیر هدف (Target) است. این مدل تلاش می‌کند با برازش یک خط (در حالت تک‌متغیره) یا یک صفحه/ابرصفحه (در حالت چندمتغیره)، مقدار […]

ترنسفورمر (Transformer)در یادگیری عمیق

مقدمه ترنسفورمر (Transformer) یکی از مهم‌ترین معماری‌های یادگیری عمیق در سال‌های اخیر است که با معرفی مکانیزم توجه (Attention) توانست بسیاری از محدودیت‌های مدل‌های ترتیبیِ قدیمی مثل RNN و LSTM را کاهش دهد. مشکل اصلی مدل‌های ترتیبی این بود که توالی را مرحله‌به‌مرحله پردازش می‌کردند؛ در نتیجه هم آموزش کندتر بود و هم وابستگی‌های دور (Long-Range […]