نقشه خودسازمانده SOM؛ آموزش کامل الگوریتم کوهونن:بخش اول

1. اهداف یادگیری

انتظار می‌رود خواننده پس از مطالعه این فصل بتواند:

• مسئله‌ای را که نقشه خودسازمان‌ده برای حل آن طراحی شده است، با زبان علمی توضیح دهد.
• میان فاصله در فضای داده و فاصله روی شبکه نقشه تمایز بگذارد.
• واحد با بهترین تطابق و نقش تابع همسایگی را به‌صورت رسمی تعریف کند.
• قانون به‌روزرسانی SOM آنلاین و رابطه آموزش دسته‌ای را تفسیر کند.
• نقش نرخ یادگیری، شعاع همسایگی، اندازه نقشه و مقداردهی اولیه را تحلیل کند.
• خطای کوانتیزه‌سازی و خطای توپولوژیک را محاسبه و محدودیت‌های تفسیری آن‌ها را بیان کند.
• رفتار الگوریتم را در برابر مقیاس ویژگی‌ها، نویز، داده پرت، ابعاد بالا و داده ناقص نقد کند.
• SOM را با k-means، Neural Gas، GTM، UMAP، t-SNE و خودرمزگذار مقایسه کند.
• تفاوت نسخه پایه با گونه‌های رشدکننده، سلسله‌مراتبی، زمانی، هسته‌ای و عمیق را تشخیص دهد.
• ادعاهای مربوط به حفظ توپولوژی و همگرایی را با احتیاط نظری مناسب صورت‌بندی کند.

2. پیش‌نیازها

• مفهومی: یادگیری بدون نظارت، خوشه‌بندی، کاهش بُعد، شبکه و همسایگی، یادگیری آنلاین و دسته‌ای.
• ریاضی: بردار و ماتریس، نرم اقلیدسی، تابع نمایی، میانگین وزن‌دار، مشتق مقدماتی و پیچیدگی مجانبی.
• آماری: استانداردسازی، واریانس، فاصله، داده پرت، نمونه‌گیری و اعتبارسنجی بدون نظارت.
• محاسباتی: کار با آرایه‌های چندبعدی، محاسبه فاصله‌های زوجی، کنترل بذر تصادفی و مصورسازی نقشه‌های گرمایی.

3. چکیده

نقشه خودسازمان‌ده کوهونن یکی از شناخته‌شده‌ترین الگوریتم‌های یادگیری بدون نظارت برای سازمان‌دهی و نمایش داده‌های پُربعد است. این الگوریتم مجموعه‌ای از بردارهای کد را روی شبکه‌ای معمولاً دوبعدی قرار می‌دهد و با سازوکاری رقابتی–همکارانه آن‌ها را به داده نزدیک می‌کند. در هر گام، نزدیک‌ترین بردار کد به نمونه ورودی به‌عنوان واحد با بهترین تطابق انتخاب می‌شود؛ سپس این واحد و همسایه‌های شبکه‌ای آن به سمت نمونه حرکت می‌کنند. پیامد مطلوب این فرایند، کوانتیزه‌سازی داده و شکل‌گیری نظمی است که در آن واحدهای مجاور معمولاً نواحی مشابهی از فضای داده را نمایش می‌دهند.

پس از تبیین زمینه تاریخی و مفاهیم پایه، صورت‌بندی ریاضی SOM آنلاین و دسته‌ای، مراحل اجرا، معیارهای ارزیابی، مثال‌های عددی، رفتار الگوریتم در شرایط گوناگون، پیچیدگی، تنظیم ابرپارامترها، کاربردها، مقایسه با روش‌های رقیب و توسعه‌های جدید را بررسی می‌کند. تأکید ویژه بر این است که حفظ توپولوژی در SOM خاصیتی تقریبی است و نسخه آنلاین استاندارد در حالت عمومی نباید به‌عنوان گرادیان‌کاهشی یک تابع هدف سراسری واحد معرفی شود.

4. بستر علمی و تعریف مسئله

نقشه خودسازمان‌ده در ادامه پژوهش‌هایی شکل گرفت که می‌کوشیدند سازوکارهای خودسازمان‌دهی در سامانه‌های عصبی را با مدل‌های محاسباتی توضیح دهند. مسئله محوری این بود که چگونه می‌توان بدون استفاده از برچسب هدف، مجموعه‌ای از واحدهای محاسباتی را به‌گونه‌ای سازمان داد که واحدهای مجاور به محرک‌های مشابه پاسخ دهند. کوهونن در سال ۱۹۸۲ سازوکاری ارائه کرد که رقابت میان واحدها برای پاسخ‌گویی به ورودی را با همکاری مکانی میان واحدهای همسایه ترکیب می‌کرد (Kohonen, 1982a).

در یک مسئله داده‌کاوی معاصر، معمولاً با مجموعه‌ای از نمونه‌های عددی پُربعد مواجهیم که مشاهده مستقیم روابط آن‌ها دشوار است. کاهش داده به دو مختصات برای مصورسازی می‌تواند بخشی از ساختار را آشکار کند، اما بسیاری از روش‌های نمایش صرفاً مختصات جدید تولید می‌کنند و نمونه‌های اولیه صریحی برای نواحی داده در اختیار نمی‌گذارند. SOM این دو نیاز را تا اندازه‌ای ترکیب می‌کند: از یک سو مجموعه‌ای محدود از بردارهای نماینده می‌آموزد و از سوی دیگر، این بردارها را روی شبکه‌ای با همسایگی مشخص مرتب می‌کند.

.

ورودی الگوریتم، مجموعه‌ای از بردارهای ویژگی و مشخصات شبکه است. خروجی آن مجموعه بردارهای کدی است که هر یک به یک واحد شبکه وابسته‌اند. نمونه‌های داده می‌توانند پس از آموزش به نزدیک‌ترین واحد نگاشت شوند و ساختار حاصل با ابزارهایی مانند نقشه اصابت، صفحه مؤلفه و U-matrix بررسی شود. بااین‌حال، خروجی SOM به‌طور خودکار تعداد معینی خوشه معنایی تعیین نمی‌کند؛ خوشه‌بندی بردارهای کد یا تفسیر مرزهای نقشه معمولاً مرحله‌ای جداگانه است (Vesanto & Alhoniemi, 2000).

جایگاه SOM را می‌توان در تقاطع سه سنت علمی دید: کوانتیزه‌سازی برداری، یادگیری رقابتی و نمایش توپولوژیک. در کوانتیزه‌سازی، هدف تقریب داده با تعداد محدودی نمونه اولیه است. پس در یادگیری رقابتی، تنها یک یا چند واحد برنده نقش اصلی در به‌روزرسانی دارند. در نمایش توپولوژیک، علاوه بر کیفیت تقریب، روابط همسایگی نیز اهمیت می‌یابند. SOM با افزودن همکاری شبکه‌ای به رقابت، این سه جنبه را به هم پیوند می‌دهد.

.

5. مفاهیم پایه و تعاریف ضروری

• بردار داده: نمونه‌ای مانند (^{d}) که شامل (d) ویژگی عددی است.
• واحد نقشه: یک گره در شبکه که با مختصات شبکه‌ای و یک بردار کد توصیف می‌شود.
• بردار کد یا نمونه اولیه: بردار (_j^{d}) که واحد (j) به‌وسیله آن ناحیه‌ای از فضای داده را نمایندگی می‌کند.
• مختصات شبکه‌ای: بردار (_j) که محل واحد (j) را در شبکه یک‌بعدی، دوبعدی یا ساختار دیگری مشخص می‌کند.
• واحد با بهترین تطابق: واحدی که بردار کد آن بر اساس معیار فاصله انتخاب‌شده، نزدیک‌ترین بردار به نمونه ورودی است. این واحد با عنوان Best Matching Unit یا BMU شناخته می‌شود.
• تابع همسایگی: تابعی که شدت اثر نمونه جاری بر واحدهای اطراف BMU را بر اساس فاصله شبکه‌ای تعیین می‌کند.
• شعاع همسایگی: پارامتری که گستره همکاری واحدها را کنترل می‌کند. در آغاز آموزش معمولاً بزرگ و در پایان کوچک است.
• نرخ یادگیری: ضریب اندازه گام در به‌روزرسانی آنلاین.
• خطای کوانتیزه‌سازی: میانگین فاصله نمونه‌ها تا BMUهای متناظر و معیاری برای کیفیت تقریب برداری.
• خطای توپولوژیک: سهم نمونه‌هایی که نخستین و دومین BMU آن‌ها در شبکه مجاور نیستند.
• U-matrix: نمایش فاصله میان بردارهای کد واحدهای مجاور؛ نواحی با فاصله بزرگ می‌توانند مرزهای احتمالی ساختار داده را نشان دهند.
• صفحه مؤلفه: نمایش مقدار یک ویژگی در تمام واحدهای نقشه، برای بررسی الگوهای تغییر آن ویژگی.
• واحد مرده: واحدی که در داده آموزشی BMU هیچ نمونه یا تعداد بسیار اندکی از نمونه‌ها نمی‌شود.
• پیچ‌خوردگی نقشه: وضعیتی که نظم شبکه با ساختار همسایگی داده ناسازگار می‌شود و بخش‌هایی از نقشه روی یکدیگر تا می‌خورند.

.

6. ایده محوری و مبانی نظری–ریاضی

6.1 ایده محوری

شهود الگوریتم را می‌توان با یک صفحه کشسان از نقاط نماینده تصور کرد که در فضای داده قرار گرفته است. هر نمونه ورودی نزدیک‌ترین نقطه را انتخاب می‌کند و آن نقطه را به سمت خود می‌کشد؛ اما کشش فقط به نقطه برنده محدود نیست و همسایه‌های آن را نیز با شدتی کمتر جابه‌جا می‌کند. در مراحل ابتدایی، دامنه کشش گسترده است و ساختار کلی شبکه را منظم می‌کند. در مراحل پایانی، دامنه کوچک می‌شود تا بردارهای کد جزئیات محلی داده را بهتر دنبال کنند.

این سازوکار دو هدف کاملاً همسان را بهینه نمی‌کند. حرکت BMU به سمت داده، خطای کوانتیزه‌سازی را کاهش می‌دهد؛ حرکت همسایه‌ها می‌تواند در کوتاه‌مدت هزینه تقریب را افزایش دهد، اما نظم شبکه را تقویت می‌کند. ازاین‌رو، SOM میان تقریب داده و سازمان همسایگی نوعی مصالحه برقرار می‌کند.

6.2 صورت‌بندی داده و نقشه

مجموعه آموزشی به‌صورت زیر تعریف می‌شود:

در این رابطه، (N) تعداد نمونه‌ها و (d) تعداد ویژگی‌هاست.

نقشه دارای (M) واحد و بردار کد است:

هر واحد همچنین مختصات شبکه‌ای (_j^{p}) دارد. در کاربردهای متداول، (p=2) است، اما بُعد شبکه الزاماً دو نیست.

6.3 انتخاب واحد با بهترین تطابق

برای نمونه ()، شاخص BMU از رابطه زیر به دست می‌آید:

در نسخه کلاسیک، فاصله اقلیدسی به کار می‌رود:

انتخاب BMU رقابتی است، زیرا همه واحدها برای نزدیک‌ترین‌بودن به ورودی رقابت می‌کنند و تنها واحد برنده مرکز به‌روزرسانی بعدی می‌شود. اگر چند واحد فاصله برابر داشته باشند، پیاده‌سازی باید قاعده تساوی‌شکنی را مشخص کند؛ این جزئیات می‌تواند بر بازتولیدپذیری اثر بگذارد.

فاصله موجود در رابطه BMU در فضای ویژگی محاسبه می‌شود. این فاصله نباید با فاصله میان مختصات شبکه‌ای (_j) اشتباه شود. اولی شباهت نمونه و بردار کد را می‌سنجد و دومی شدت همکاری واحدها را تعیین می‌کند.

6.4 تابع همسایگی

یک تابع متداول برای همکاری، هسته گاوسی است:

در این رابطه، (c) شاخص BMU، (j) شاخص واحد مورد به‌روزرسانی، (t) شماره تکرار و ((t)) شعاع همسایگی است. برای خود BMU داریم:

هرچه واحد (j) روی شبکه از BMU دورتر باشد، ضریب همکاری آن کاهش می‌یابد. این تابع بر فاصله شبکه‌ای متکی است و از مقدار ویژگی‌های داده برای تعیین همسایگی استفاده نمی‌کند.

علاوه بر تابع گاوسی، همسایگی حبابی یا محدود نیز استفاده می‌شود؛ در آن، واحدهای داخل شعاع وزن یکسان و واحدهای بیرون وزن صفر می‌گیرند. همسایگی گاوسی تغییرات نرم‌تری ایجاد می‌کند، اما هزینه به‌روزرسانی آن در پیاده‌سازی ساده می‌تواند همه واحدها را دربرگیرد.

6.5 قانون به‌روزرسانی آنلاین

قانون پایه به‌روزرسانی SOM آنلاین چنین است:

در این رابطه، ((t)) نرخ یادگیری و ((t)-_j(t)) بردار خطای واحد نسبت به نمونه جاری است. اگر حاصل‌ضرب نرخ یادگیری و ضریب همسایگی در بازه صفر تا یک باشد، بردار جدید روی پاره‌خط میان بردار فعلی و نمونه قرار می‌گیرد. چون ضریب همسایگی BMU با خودش برابر یک است، BMU بیشترین حرکت را دارد و واحدهای دورتر کمتر جابه‌جا می‌شوند.

در SOM آنلاین کلاسیک، نرخ یادگیری و شعاع همسایگی معمولاً در طول آموزش کاهش داده می‌شوند. این برنامه کاهشی یک رویه استاندارد برای گذار از نظم‌دهی سراسری به تنظیم محلی است، نه الزام تعریف همه واریانت‌های SOM؛ برای مثال، آموزش دسته‌ای نرخ یادگیری صریح ندارد و روش‌های تطبیقی برنامه دیگری به کار می‌برند. یک زمان‌بندی نمایی رایج عبارت است از:

در این روابط، (T) تعداد کل تکرارها، (_0) و (_f) نرخ‌های اولیه و نهایی، و (_0) و (_f) شعاع‌های اولیه و نهایی‌اند. زمان‌بندی خطی نیز امکان‌پذیر است. آنچه اهمیت دارد، عبور کنترل‌شده از نظم‌دهی گسترده به تنظیم محلی است.

6.6 آموزش دسته‌ای

در آموزش دسته‌ای، ابتدا BMU هر نمونه بر اساس بردارهای کد فعلی تعیین می‌شود:

سپس هر بردار کد با میانگین وزن‌دار نمونه‌ها به‌روزرسانی می‌شود:

مخرج باید غیرصفر باشد. در این نسخه، نرخ یادگیری صریح ضروری نیست و، در محاسبه دقیق یک دوره کامل، جابه‌جایی ترتیب سطرهای داده نتیجه همان دوره را تغییر نمی‌دهد؛ بااین‌حال، مقداردهی اولیه و قواعد تساوی‌شکنی همچنان می‌توانند نتیجه نهایی را تغییر دهند. برای تخصیص BMUهای ثابت، رابطه بالا کمینه‌کننده تابع درجه دوم زیر نسبت به بردارهای کد است:

بااین‌حال، BMUها در دوره بعد تغییر می‌کنند. بنابراین این نتیجه به‌تنهایی تضمین نمی‌کند که فرایند کامل به کمینه سراسری یگانه برسد. افزون بر این، قضیه همگرایی Cheng (1997) به نسخه دسته‌ای با قاعده انتخاب برنده مشخص Heskes–Kappen و شروطی بر رابطه همسایگی مربوط است و نباید بدون قید به همه پیاده‌سازی‌های batch SOM تعمیم داده شود. آموزش دسته‌ای در بسیاری از محیط‌ها پایدارتر و برای بردارسازی مناسب‌تر است، اما ماهیت تکراری و وابستگی به مقداردهی اولیه همچنان باقی می‌ماند.

6.7 معیارهای ارزیابی

خطای کوانتیزه‌سازی به‌صورت زیر تعریف می‌شود:

کاهش (QE) نشان می‌دهد نمونه‌ها با بردارهای کد نزدیک‌تری نمایش داده شده‌اند. در این فصل، (QE) میانگین نرم اقلیدسیِ بدون توان دوم است؛ برخی منابع و نرم‌افزارها میانگین فاصله مربعی یا مجموع خطا را گزارش می‌کنند، ازاین‌رو تعریف شاخص باید همراه نتیجه ثبت شود. این معیار با افزایش تعداد واحدها معمولاً کاهش می‌یابد؛ بنابراین مقایسه نقشه‌هایی با ظرفیت‌های متفاوت تنها بر اساس (QE) منصفانه نیست.

برای سنجش یکی از جنبه‌های نظم توپولوژیک، نخستین و دومین BMU هر نمونه تعیین می‌شوند. خطای توپولوژیک چنین است:

مقدار صفر نشان می‌دهد دو واحد برتر همه نمونه‌ها مجاور بوده‌اند، اما حفظ کامل توپولوژی را اثبات نمی‌کند. تعریف مجاورت به شکل شبکه وابسته است؛ برای مثال، لبه‌های مقابل یک شبکه حلقوی مجاورند، ولی در شبکه صفحه‌ای چنین نیستند (Kiviluoto, 1996).

6.8 رابطه با کوانتیزه‌سازی برداری

با کوچک‌شدن شعاع همسایگی، تابع همسایگی به‌تدریج فقط BMU را فعال می‌کند:

در این حد، SOM به یادگیری رقابتی نمونه‌اولیه‌ای نزدیک می‌شود. تفاوت هویتی الگوریتم در مرحله‌ای است که همسایگان نیز به‌روزرسانی می‌شوند؛ حذف زودهنگام این همکاری می‌تواند نقشه‌ای با کوانتیزه‌سازی مناسب اما نظم شبکه‌ای ضعیف ایجاد کند.

6.9 حفظ توپولوژی و تابع هدف

عبارت «نقشه توپولوژیک» نباید به معنای حفظ دقیق همه همسایگی‌ها و فاصله‌های فضای داده تفسیر شود. شبکه کم‌بُعد ظرفیت محدودی دارد و نگاشت یک ساختار پُربعد به آن می‌تواند با گسست، چین‌خوردگی یا اعوجاج همراه باشد. نظم ایجادشده، وابسته به توزیع داده، شکل شبکه، مقداردهی اولیه، تابع همسایگی و برنامه کاهش پارامترهاست.

از نظر نظری، SOM آنلاین استاندارد در حالت عمومی گرادیان‌کاهشی یک تابع انرژی سراسری ساده نیست. تحلیل‌های Erwin، Obermayer و Schulten نشان داده‌اند که انرژی و همگرایی در صورت‌های خاص قابل بررسی‌اند، اما نمی‌توان برای همه شبکه‌ها، توزیع‌ها و زمان‌بندی‌ها یک تضمین عمومی ساده ارائه کرد (Erwin et al., 1992a, 1992b). در نتیجه، بیان علمی صحیح این است که الگوریتم غالباً به حالت نسبتاً پایدار می‌رسد، نه اینکه همواره به بهینه سراسری یکتا همگرا می‌شود.

.

7. مراحل گام‌به‌گام اجرای الگوریتم و منطق تصمیم‌گیری

7.1 تعیین ورودی‌ها

الگوریتم به داده عددی، ابعاد و توپولوژی نقشه، معیار فاصله، تابع همسایگی، برنامه کاهش شعاع و نرخ یادگیری، تعداد دوره‌ها و روش مقداردهی اولیه نیاز دارد. پیش از آموزش باید مشخص شود که آیا هر ویژگی باید استاندارد شود، وزن دامنه‌ای دریافت کند یا با تبدیل دیگری وارد فاصله شود.

7.2 مقداردهی اولیه بردارهای کد

بردارهای کد می‌توانند تصادفی، از میان نمونه‌های داده یا به‌صورت خطی بر پایه مؤلفه‌های اصلی مقداردهی شوند. مقداردهی تصادفی ساده است، اما تغییرپذیری بیشتری میان اجراها ایجاد می‌کند. مقداردهی خطی معمولاً نظم اولیه بیشتری فراهم می‌کند، ولی سوگیری خطی را به نقشه تحمیل می‌کند.

7.3 ارائه نمونه یا مجموعه داده

در آموزش آنلاین، نمونه‌ها یک‌به‌یک و معمولاً با ترتیب تصادفی ارائه می‌شوند. در آموزش دسته‌ای، کل داده در هر دوره برای تعیین BMUها استفاده می‌شود و ترتیب سطرهای داده، جز در اثر خطای عددی یا تساوی‌شکنی، بر نتیجه همان دوره اثر ندارد. ترتیب نمونه‌ها در نسخه آنلاین بخشی از تصادفی‌بودن فرایند است و باید همراه با seed ثبت شود.

7.4 تعیین BMU

فاصله نمونه جاری تا همه بردارهای کد محاسبه و نزدیک‌ترین واحد انتخاب می‌شود. این مرحله در پیاده‌سازی کلاسیک بیشترین سهم هزینه محاسباتی را دارد.

7.5 محاسبه همکاری شبکه‌ای

فاصله شبکه‌ای هر واحد تا BMU محاسبه می‌شود و تابع همسایگی وزن به‌روزرسانی را تعیین می‌کند. شعاع بزرگ، بخش وسیعی از شبکه را هماهنگ می‌کند؛ شعاع کوچک، اثر را به ناحیه نزدیک BMU محدود می‌سازد.

7.6 به‌روزرسانی بردارهای کد

در نسخه آنلاین، BMU و همسایگان آن به سمت نمونه حرکت می‌کنند. در نسخه دسته‌ای، پس از تعیین BMU همه نمونه‌ها، میانگین‌های وزن‌دار محاسبه می‌شوند. به‌روزرسانی نباید مختصات شبکه‌ای واحدها را تغییر دهد؛ آنچه حرکت می‌کند، بردار کد در فضای داده است.

7.7 کاهش پارامترها

در نسخه آنلاین کلاسیک، نرخ یادگیری و شعاع معمولاً بر اساس برنامه از پیش تعیین‌شده کاهش می‌یابند. کاهش بسیار سریع می‌تواند نقشه را پیش از شکل‌گیری نظم جهانی منجمد کند. کاهش بسیار کند نیز زمان آموزش را افزایش می‌دهد و ممکن است جزئیات محلی را محو کند. در نسخه‌های دسته‌ای یا تطبیقی، سازوکار کنترل گام و همسایگی متفاوت است و باید جداگانه تعریف شود.

7.8 خاتمه و ارزیابی

خاتمه می‌تواند بر اساس بودجه ثابت تکرار، کاهش اندک تغییر بردارهای کد یا تثبیت شاخص‌هایی مانند (QE) انجام شود. توقف بر پایه (QE) به‌تنهایی کافی نیست؛ نظم توپولوژیک، اشغال واحدها و پایداری میان اجراها نیز باید بررسی شوند.

7.9 خروجی

خروجی اصلی مجموعه بردارهای کد و ساختار شبکه است. خروجی‌های مشتق‌شده شامل BMU نمونه‌ها، نقشه اصابت، U-matrix، صفحه‌های مؤلفه، برچسب‌گذاری پسینی واحدها و خوشه‌بندی بردارهای کد هستند.

.

8. شبه‌کد استاندارد

Algorithm: Online-SOM

Input:
    X = {x_1, ..., x_N}
    Grid coordinates r_1, ..., r_M
    Initial codebook vectors m_1, ..., m_M
    Learning-rate schedule alpha(t)
    Neighborhood-radius schedule sigma(t)
    Number of updates T

Output:
    Trained codebook vectors m_1, ..., m_M

for t = 0, ..., T - 1 do
    x <- SelectSample(X, t)
    c <- argmin_j ||x - m_j||_2
    for j = 1, ..., M do
        h_cj <- exp(-||r_c - r_j||_2^2 / (2 sigma(t)^2))
        m_j <- m_j + alpha(t) h_cj (x - m_j)
    end for
end for

return m_1, ..., m_M

9. مثال‌های آموزشی

9.1 مثال شهودی: سازمان‌دهی رنگ‌ها

فرض کنید نمونه‌ها رنگ‌هایی هستند که با سه مؤلفه قرمز، سبز و آبی نمایش داده شده‌اند. در آغاز، رنگ واحدهای یک شبکه دوبعدی تصادفی است. با ارائه مکرر رنگ‌ها، هر رنگ نزدیک‌ترین واحد را انتخاب می‌کند و آن واحد و همسایه‌هایش به سمت آن رنگ حرکت می‌کنند. پس از آموزش، انتظار می‌رود رنگ‌های مشابه در نواحی نزدیک قرار گیرند و گذارهای رنگی نسبتاً نرم روی نقشه شکل گیرد. این مثال به‌طور مستقیم نشان می‌دهد که SOM هم بردارهای نمونه اولیه می‌سازد و هم آن‌ها را بر اساس همسایگی مرتب می‌کند.

9.2 مثال عددی پایه: یک به‌روزرسانی در نقشه ۲×۲

چهار بردار کد اولیه عبارت‌اند از:

مختصات شبکه‌ای به‌صورت زیرند:

نمونه ورودی و پارامترها:

فاصله نمونه تا واحد اول:

برای واحد دوم:

برای واحد سوم:

و برای واحد چهارم:

بنابراین واحد دوم BMU است. ضریب همسایگی خود BMU برابر یک است. واحدهای اول و چهارم یک گام شبکه‌ای از آن فاصله دارند:

واحد سوم در فاصله شبکه‌ای () قرار دارد:

• به‌روزرسانی BMU:

• به‌روزرسانی واحد اول:

• به‌روزرسانی واحد چهارم:

• به‌روزرسانی واحد سوم:

BMU بیشترین جابه‌جایی را دارد، همسایه‌های مستقیم کمتر حرکت می‌کنند و واحد قطری کمترین تغییر را تجربه می‌کند. این تفاوت شدت، سازوکار همکاری شبکه‌ای را نشان می‌دهد.

9.3 مثال متوسط: اثر استانداردسازی

سه نمونه دوبعدی را در نظر بگیرید:

ویژگی اول در مقیاس واحد و ویژگی دوم در مقیاس هزار قرار دارد. فاصله اقلیدسی میان نمونه اول و دوم برابر است با:

سهم ویژگی اول در این فاصله ناچیز است. در نتیجه، BMUها و بردارهای کد تقریباً فقط بر اساس ویژگی دوم سازمان می‌یابند. پس از استانداردسازی z-score، هر دو ویژگی میانگین صفر و انحراف معیار یک پیدا می‌کنند و سهم آن‌ها در فاصله قابل‌مقایسه می‌شود.

تفسیر درست این نیست که استانداردسازی همیشه الزامی است؛ اگر اختلاف مقیاس بیانگر اهمیت واقعی و موردنظر دامنه باشد، حفظ یا وزن‌دهی آن می‌تواند منطقی باشد. الزام علمی، توجیه صریح اثر هر ویژگی در معیار فاصله است.

9.4 مثال پیشرفته: تعارض QE و TE

دو نقشه با تعداد واحد برابر تصور کنید. نقشه الف بردارهای کد را بسیار نزدیک نمونه‌ها قرار داده، اما ترتیب شبکه آن‌ها پیچ‌خورده است. نقشه ب کمی فاصله بیشتر از نمونه‌ها دارد، ولی همسایگی‌ها را منظم‌تر حفظ کرده است. ممکن است:

ولی هم‌زمان:

این وضعیت تناقض نیست. (QE) کیفیت تقریب محلی را می‌سنجد و (TE) یکی از جنبه‌های نظم همسایگی را. انتخاب نقشه باید با هدف کاربرد هماهنگ باشد. برای فشرده‌سازی داده، (QE) ممکن است مهم‌تر باشد؛ برای مصورسازی ساختار، حفظ همسایگی اهمیت بیشتری پیدا می‌کند.

10. تحلیل رفتاری و تبیین علمی

10.1 رفتار هندسی

بردارهای کد را می‌توان نقاطی در فضای داده دانست که اتصالات شبکه‌ای میان آن‌ها برقرار است. آموزش، این شبکه را به سوی نواحی پُرتراکم داده می‌کشد. اگر داده روی منیفلدی ساده قرار داشته باشد و ظرفیت شبکه کافی باشد، شبکه می‌تواند تقریب بصری مناسبی از آن ایجاد کند. اگر منیفلد دارای سوراخ، شاخه، بُعد ذاتی بالا یا توپولوژی ناسازگار با شبکه باشد، گسست و چین‌خوردگی محتمل است.

شبکه یک‌بعدی برای ساختاری که مسیر غالب دارد مناسب‌تر است. شبکه دوبعدی امکان نمایش دو درجه آزادی را می‌دهد، اما تضمین نمی‌کند که ساختار ذاتی داده دقیقاً دوبعدی باشد. استفاده از شبکه دوبعدی برای داده‌ای با ساختار پیچیده، نوعی فشرده‌سازی اجباری و همراه با اعوجاج است.

10.2 رفتار آماری

چگالی داده بر توزیع بردارهای کد اثر می‌گذارد. نواحی پُرتراکم معمولاً واحدهای بیشتری جذب می‌کنند، اما رابطه تعداد واحدها با چگالی داده خطی و مستقل از تنظیمات نیست. شعاع همسایگی، شبکه و برنامه یادگیری بر میزان تمرکز نمونه‌های اولیه اثر دارند.

در نسخه کلاسیک، فاصله اقلیدسی و به‌روزرسانی‌های میانگین‌محور—به‌ویژه میانگین وزن‌دار در batch SOM—به داده پرت حساس‌اند. یک نقطه دور می‌تواند BMU و همسایگانش را به سوی ناحیه‌ای کم‌تراکم بکشد. اگر نقاط پرت تکرار شوند یا نرخ یادگیری اولیه بزرگ باشد، تغییر ساختار محسوس‌تر خواهد بود.

10.3 داده کم

وقتی تعداد نمونه‌ها در مقایسه با تعداد واحدها کم باشد، بسیاری از واحدها اصابت کمی خواهند داشت. بردارهای کد ممکن است بیش از حد به مقداردهی اولیه وابسته بمانند و U-matrix ساختاری ظاهری اما ناپایدار نشان دهد. در داده کم، نقشه کوچک‌تر، مقداردهی اولیه کنترل‌شده و تحلیل چند seed ضروری است.

10.4 داده زیاد

افزایش داده می‌تواند پوشش توزیع را بهبود دهد، اما هزینه جست‌وجوی BMU را افزایش می‌دهد. در آموزش آنلاین، نمونه‌گیری تصادفی یا عبور چنددوره‌ای متداول است. در آموزش دسته‌ای، محاسبات فاصله می‌توانند بردارسازی یا موازی شوند. داده زیاد به‌تنهایی مشکل اندازه نامناسب نقشه یا معیار فاصله ضعیف را حل نمی‌کند.

10.5 نویز

نویز با واریانس کم معمولاً بردارهای کد را اطراف ساختار اصلی پخش می‌کند. نویز ویژگی‌های نامرتبط در ابعاد بالا می‌تواند فاصله‌ها را همگن‌تر کند و انتخاب BMU را ناپایدار سازد. کاهش بُعد مقدماتی، انتخاب ویژگی یا وزن‌دهی دامنه‌ای ممکن است لازم باشد، ولی هر مداخله‌ای باید جدا از الگوریتم پایه گزارش شود.

10.6 داده پرت

اثر داده پرت به ترتیب ارائه، نرخ یادگیری و فراوانی آن بستگی دارد. در آموزش آنلاین، یک داده پرت در مراحل ابتدایی می‌تواند بخش وسیعی از نقشه را جابه‌جا کند، زیرا شعاع و نرخ یادگیری بزرگ‌اند. در آموزش دسته‌ای، نقاط پرت در میانگین‌های وزن‌دار اثر می‌گذارند. روش‌های robust scaling، winsorization علمی یا واریانت‌های مقاوم می‌توانند اثر را کاهش دهند؛ حذف خودکار نقاط پرت بدون تحلیل دامنه قابل دفاع نیست.

10.7 داده نامتوازن

SOM بدون برچسب است، اما عدم‌توازن در چگالی داده بر تخصیص ظرفیت نقشه اثر می‌گذارد. یک رژیم پُرتکرار واحدهای بیشتری جذب می‌کند و رژیم نادر ممکن است با یک یا چند واحد نمایش داده شود یا در ساختار غالب ادغام گردد. اگر هدف کشف الگوهای نادر است، نمونه‌گیری، وزن‌دهی یا تحلیل جداگانه باید با احتیاط انجام شود.

10.8 ابعاد بالا

در ابعاد بالا، فاصله‌های اقلیدسی می‌توانند به یکدیگر نزدیک شوند و ویژگی‌های نامرتبط سهم بزرگی از فاصله را تشکیل دهند. در چنین شرایطی، SOM همچنان اجرا می‌شود، اما معنای BMU ضعیف‌تر می‌شود. استفاده از نمایش نهفته، انتخاب ویژگی یا معیار فاصله مناسب ممکن است کیفیت را بهتر کند، ولی خروجی دیگر صرفاً حاصل SOM روی داده خام نیست.

10.9 داده ناقص

تعریف پایه فاصله اقلیدسی به بردارهای کامل نیاز دارد. حذف نمونه ناقص، جانشانی، محاسبه فاصله روی ویژگی‌های مشترک یا استفاده از واریانت ویژه، انتخاب‌های ممکن‌اند. محاسبه فاصله بر تعداد متفاوتی از ویژگی‌های مشاهده‌شده می‌تواند مقایسه BMUها را سوگیرانه کند و نیازمند نرمال‌سازی است.

10.10 هم‌بستگی ویژگی‌ها

فاصله اقلیدسی استاندارد، هم‌بستگی و تفاوت واریانس جهت‌ها را مستقیماً مدل نمی‌کند. ویژگی‌های تکراری یا بسیار هم‌بسته وزن یک مفهوم را چند برابر می‌کنند. whitening، فاصله ماهالانوبیس یا کاهش بُعد می‌تواند این اثر را کاهش دهد، اما تفسیر صفحه‌های مؤلفه پس از تبدیل دشوارتر می‌شود.

10.11 پایداری و تقارن

دو نقشه می‌توانند از نظر ساختار معادل باشند، ولی چرخیده، منعکس یا جابه‌جا شده باشند. مقایسه خانه‌به‌خانه دو نقشه بدون هم‌ترازی می‌تواند گمراه‌کننده باشد. پایداری باید با معیارهایی که نسبت به این تقارن‌ها مقاوم‌اند یا با الگوریتم هم‌ترازی ارزیابی شود.