cover_compressed_compressed

الگوریتم Subtractive Clustering چیست؟ آموزش خوشه‌بندی تفریقی:بخش اول

1. اهداف یادگیری

پس از مطالعه این فصل، خواننده باید بتواند:

  • جایگاه خوشه‌بندی تفریقی را در میان روش‌های خوشه‌بندی و شناسایی مدل فازی توضیح دهد.
  • رابطه تاریخی و الگوریتمی میان Mountain Method و Subtractive Clustering را تحلیل کند.
  • مفهوم پتانسیل محلی هر نمونه و نقش آن در انتخاب مرکز خوشه را تفسیر کند.
  • اثر شعاع نفوذ، Squash Factor، نسبت پذیرش و نسبت رد را بر تعداد و مکان مراکز تحلیل کند.
  • فرمول‌های محاسبه پتانسیل اولیه و تفریق پتانسیل را به‌درستی به کار گیرد.
  • تفاوت SC را با k-means، FCM، DBSCAN، Mean Shift و روش‌های احتمالاتی توضیح دهد.
  • رفتار الگوریتم را در برابر مقیاس ویژگی‌ها، داده پرت، تفاوت چگالی خوشه‌ها و ابعاد بالا نقد کند.
  • پیچیدگی زمانی و حافظه نسخه پایه را تحلیل کند.
  • کاربرد SC را به‌عنوان سازوکار تخمین ساختار برای FIS، ANFIS و مقداردهی اولیه سایر روش‌ها توضیح دهد.
  • محدودیت‌های نظری الگوریتم، از جمله نبود تضمین بازیابی تعداد واقعی خوشه‌ها و نبود تابع هدف تکراری استاندارد را بیان کند.

.

2.پیش‌نیازها

  • مفهومی: یادگیری بدون نظارت، خوشه‌بندی، مفهوم مرکز خوشه، چگالی محلی، الگوریتم‌های حریصانه.
  • آماری: فاصله اقلیدسی، مقیاس‌بندی ویژگی‌ها، توزیع نقاط، داده پرت و چگالی.
  • ریاضی: بردارها، نرم اقلیدسی، تابع نمایی، مجموع، آستانه‌ها، پیچیدگی Big-O.
  • محاسباتی: محاسبه فاصله‌های زوجی، کار با آرایه‌ها، argmax، بردارسازی و مدیریت حافظه برای ماتریس فاصله.

.

3. چکیده

خوشه‌بندی تفریقی (Subtractive Clustering) روشی بدون نظارت برای تخمین تعداد و موقعیت مراکز خوشه است که Stephen L. Chiu آن را در سال 1994 در زمینه شناسایی مدل‌های فازی معرفی کرد. این روش از ایده Mountain Method توسعه یافت، اما به‌جای ارزیابی پتانسیل روی یک شبکه از نقاط کاندید، خود نمونه‌های داده را به‌عنوان مراکز بالقوه در نظر می‌گیرد. برای هر نمونه، مقداری موسوم به پتانسیل بر اساس فاصله آن تا سایر نمونه‌ها محاسبه می‌شود. نقطه با بیشترین پتانسیل به‌عنوان مرکز نخست انتخاب می‌شود و سپس اثر آن از پتانسیل نقاط مجاور تفریق می‌گردد تا مراکز بعدی در نواحی پرتراکم ولی نسبتاً جدا قرار گیرند.

 الگوریتم تعداد خوشه‌ها را به‌صورت ورودی مستقیم دریافت نمی‌کند، بااین‌حال تعداد نهایی مراکز به‌شدت به شعاع نفوذ و آستانه‌های پذیرش و رد وابسته است. در این فصل، مبانی نظری و ریاضی SC، منطق تصمیم‌گیری، مثال‌های عددی، تحلیل رفتاری، پیچیدگی، ابرپارامترها، محدودیت‌ها، کاربردها، مقایسه با روش‌های رقیب و توسعه‌های جدید بررسی می‌شوند. تأکید اصلی بر تمایز میان «تخمین خودکار تعداد خوشه‌ها» و «استقلال از ابرپارامترها» است.

.

4. بستر علمی و تعریف مسئله

پیش از معرفی Subtractive Clustering، روش Mountain Method از Yager و Filev (1994a) برای یافتن مراکز خوشه از یک تابع پتانسیل تعریف‌شده روی نقاط یک شبکه در فضای ویژگی استفاده می‌کرد. ایده اصلی این بود که نقاطی از فضای داده که در مجاورت تعداد بیشتری نمونه قرار دارند، باید ارتفاع یا پتانسیل بیشتری داشته باشند و بنابراین کاندیدهای طبیعی برای مرکز خوشه باشند. مشکل بنیادی این طرح آن بود که تعداد نقاط شبکه با افزایش بُعد به‌سرعت رشد می‌کرد و هزینه محاسباتی به اندازه شبکه وابسته می‌شد، نه فقط به تعداد نمونه‌ها.

Chiu (1994) این ایده را با یک تغییر مهم بازآرایی کرد: به‌جای آنکه فضای داده با شبکه‌ای مصنوعی پوشانده شود، خود نمونه‌های مشاهده‌شده به‌عنوان نقاط کاندید مرکز در نظر گرفته شدند. این تغییر، مسئله جست‌وجوی مراکز را از فضای گسسته‌سازی‌شده به مجموعه واقعی داده منتقل کرد و SC را برای داده‌های چندبعدی عملی‌تر ساخت. بااین‌حال، روش همچنان مستلزم سنجش روابط فاصله‌ای میان نمونه‌ها است و در نسخه مستقیم، هزینه آن نسبت به تعداد نمونه‌ها درجه دوم باقی می‌ماند (Chiu, 1997).

مسئله‌ای که SC حل می‌کند را می‌توان چنین صورت‌بندی کرد: با داشتن مجموعه‌ای از نمونه‌های عددی، بدون تعیین مستقیم تعداد خوشه‌ها، مجموعه‌ای از نمونه‌های نماینده استخراج شود که نواحی پرتراکم داده را توصیف کنند و از یکدیگر به اندازه کافی جدا باشند. خروجی اصلی الگوریتم مجموعه مراکز تخمینی است. در کاربردهای شناسایی سیستم، هر مرکز می‌تواند به ساخت یک قاعده اولیه Takagi–Sugeno منجر شود؛ در کاربردهای خوشه‌بندی، مراکز می‌توانند مبنای انتساب نمونه‌ها یا مقداردهی اولیه روش‌های تکراری باشند.

.

از نظر تاریخی، هدف اصلی SC صرفاً رقابت با خوشه‌بندهای عمومی نبود. مقاله Chiu آن را در چارچوب fuzzy model identification based on cluster estimation معرفی کرد. بنابراین بخش مهمی از ارزش الگوریتم در این است که پیچیدگی ساختار مدل فازی را با تعداد مراکز کشف‌شده مرتبط می‌کند. این ویژگی توضیح می‌دهد چرا SC در ادبیات ANFIS، سیستم‌های فازی و کنترل هوشمند حضور پررنگ‌تری نسبت به کتاب‌های عمومی یادگیری ماشین دارد (Jang, Sun, & Mizutani, 1997; Babuška, 1998).

ورودی نسخه پایه، ماتریسی از ویژگی‌های عددی است. خروجی، مجموعه‌ای از مراکز منتخب و پتانسیل‌های متناظر آن‌هاست. مفروض کلی آن است که نزدیکی اقلیدسی پس از مقیاس‌بندی مناسب، نماینده شباهت معنادار باشد و نواحی پرتراکم با ساختارهای خوشه‌ای مورد نظر همبستگی داشته باشند.

.

5. مفاهیم پایه و تعاریف ضروری

  • نمونه داده: برداری از ویژگی‌ها که با xi نشان داده می‌شود.
  • مرکز بالقوه: هر نمونه مشاهده‌شده که ممکن است به‌عنوان مرکز خوشه انتخاب شود.
  • پتانسیل (Potential): امتیازی برای نشان‌دادن تراکم محلی پیرامون یک نمونه.
  • شعاع نفوذ ra: پارامتری که مقیاس محلی محاسبه پتانسیل اولیه را تعیین می‌کند.
  • شعاع تفریق rb: مقیاسی برای کاهش پتانسیل اطراف یک مرکز انتخاب‌شده.
  • Squash Factor η: نسبت میان شعاع تفریق و شعاع نفوذ، به‌گونه‌ای که معمولاً rb=ηra است.
  • Accept Ratio: آستانه‌ای برای پذیرش قطعی یک کاندید مرکز بر اساس نسبت پتانسیل آن به پتانسیل مرکز اول.
  • Reject Ratio: آستانه‌ای برای رد قطعی کاندیدهای کم‌پتانسیل.
  • ناحیه تصمیم میانی: بازه میان دو آستانه که در آن علاوه بر پتانسیل نسبی، فاصله کاندید از مراکز قبلی نیز بررسی می‌شود.
  •  ;Mountain Method روش پیشین Yager و Filev که پتانسیل را روی grid تعریف می‌کند.
  • مرکز داده‌محور: مرکزی که دقیقاً یکی از نقاط مشاهده‌شده است؛ این ویژگی در SC کلاسیک برقرار است.
  • شناسایی ساختار فازی: تعیین تعداد و محل قواعد یا خوشه‌های اولیه پیش از تنظیم پارامترهای یک مدل فازی.
  • در این فصل، مجموعه داده با X={x1,…,xN}، تعداد ویژگی‌ها با d، پتانسیل نمونه i با Pi، مرکز انتخاب‌شده مرحله k با xk* ، شعاع نفوذ با ra، شعاع تفریق با rb، Squash Factor با η، نسبت پذیرش با εaccept و نسبت رد با εreject نشان داده می‌شوند.

.

6. ایده محوری و مبانی نظری-ریاضی

6.1 شهود مرکزی

ایده SC را می‌توان در یک جمله خلاصه کرد: هر نمونه، مرکز بالقوه‌ای است که شایستگی آن بر اساس تراکم همسایگی اندازه‌گیری می‌شود؛ پس از انتخاب یک مرکز، شایستگی نقاط نزدیک به آن کاهش می‌یابد تا مراکز بعدی از نواحی جدید انتخاب شوند.

این منطق دو هدف را هم‌زمان دنبال می‌کند: مرکزها باید در مناطق پرتراکم قرار گیرند و درعین‌حال بیش‌ازحد به یکدیگر نزدیک نباشند. مؤلفه نخست با پتانسیل اولیه و مؤلفه دوم با تفریق پتانسیل تحقق می‌یابد.

6.2 مجموعه داده و نرمال‌سازی

فرض کنید:

در صورت‌بندی کلاسیک Chiu، مقیاس‌بندی داده‌ها به یک ناحیه نرمال‌شده بخش مهمی از تعریف عملی فاصله است. علت آن است که فاصله اقلیدسی مستقیماً به مقیاس ویژگی‌ها وابسته است. اگر یک ویژگی در بازه‌ای بسیار بزرگ‌تر از ویژگی دیگر باشد، سهم غالبی در پتانسیل خواهد داشت. در مستندات فعلی MathWorks نیز DataScale برای نرمال‌سازی هر بعد به یک hyperbox واحد به‌کار می‌رود و حالت پیش‌فرض «auto» از کمینه و بیشینه همان داده استفاده می‌کند (MathWorks, 2026a). بنابراین قرارداد مقیاس‌بندی باید صریح و ثابت گزارش شود.

.

6.3 پتانسیل اولیه

برای هر نمونه  xi ، پتانسیل اولیه به‌صورت زیر تعریف می‌شود:

که در آن:

با جایگذاری رابطه (2) در رابطه (1):

هر جمله نمایی در بازه صفر تا یک قرار می‌گیرد. نمونه‌های بسیار نزدیک سهمی نزدیک به یک دارند و نمونه‌های دور تقریباً اثری ندارند. بنابراین Pi را می‌توان یک سنجه غیرنرمال‌شده از تراکم محلی پیرامون xi دانست.

قرارداد این فصل: در رابطه پتانسیل اولیه، جمع روی همه نمونه‌ها انجام می‌شود و سهم خودِ هر نمونه نیز در مجموع باقی می‌ماند؛ در نتیجه هر نقطه یک سهم خودی برابر یک دارد. همه مثال‌های عددی و آستانه‌های نسبی این فصل با همین قرارداد محاسبه شده‌اند.

از نظر تحلیلی، رابطه (3) شباهتی روشن با تخمین چگالی هسته‌ای گاوسی دارد، اما SC یک KDE استاندارد نیست. در KDE معمولاً هدف تخمین یک تابع چگالی ثابت در کل فضاست، درحالی‌که SC پتانسیل را فقط در نقاط داده محاسبه می‌کند و پس از انتخاب هر مرکز، این پتانسیل را به‌صورت هدفمند تغییر می‌دهد.

.

6.4 انتخاب اولین مرکز

اولین مرکز، نمونه‌ای است که بیشترین پتانسیل را دارد:

و:

این انتخاب حریصانه است: بهترین کاندید فعلی بدون بررسی تمام ترکیب‌های ممکن مراکز انتخاب می‌شود. الگوریتم ازاین‌رو تضمین نمی‌کند مجموعه مراکز حاصل، کمینه‌ساز یک تابع هدف سراسری باشد.

.

6.5 تفریق پتانسیل

پس از انتخاب مرکز xk ، پتانسیل هر نقطه به شکل زیر کاهش می‌یابد:

که:

و:

است. پارامتر η همان Squash Factor است. اگر rb>ra باشد، دامنه کاهش پتانسیل پیرامون مرکز از دامنه‌ای که در آن تراکم اولیه محاسبه شده کمی وسیع‌تر خواهد بود. هدف این است که مرکز بعدی نه‌فقط پرتراکم، بلکه به اندازه کافی از مرکز قبلی دور باشد.

نکته منبعی: در شرح کلاسیک Chiu، نسبت شعاع تفریق به شعاع نفوذ در حدود 1.5 به‌عنوان انتخاب تجربی رایج گزارش شده است، در حالی‌که مستندات فعلی MathWorks مقدار Squash Factor برابر 1.25 را پیش‌فرض قرار می‌دهند. هیچ‌یک ثابت نظری یا مقدار بهینه عمومی نیست و باید متناسب با داده تنظیم شود (Chiu, 1994; MathWorks, 2026a).

.

6.6 پذیرش و رد مراکز بعدی

فرض کنید پس از تفریق، بهترین کاندید جدید پتانسیل P*k دارد. نسبت پتانسیل آن به پتانسیل اولین مرکز تعریف می‌شود:

اگر:

باشد، کاندید بدون آزمون اضافی پذیرفته می‌شود.

اگر:

باشد، در صورت‌بندی کلاسیک Chiu بهترین پتانسیل باقی‌مانده برای ایجاد مرکز جدید کافی نیست و فرایند استخراج مراکز خاتمه می‌یابد. در پیاده‌سازی‌های تغییریافته ممکن است سازمان داخلی جست‌وجوی کاندیدها متفاوت باشد، اما این تفاوت نباید با قاعده کلاسیک توقف خلط شود.

در بازه میانی:

فاصله کاندید از نزدیک‌ترین مرکز پذیرفته‌شده بررسی می‌شود. اگر:

آنگاه معیار کلاسیک تصمیم:

است. این شرط مصالحه‌ای میان دو مؤلفه ایجاد می‌کند: کاندیدی که پتانسیل متوسط دارد، اگر از مراکز قبلی دور باشد، همچنان می‌تواند ارزش افزودن به ساختار را داشته باشد.

.

6.7 نبود تابع هدف تکراری استاندارد

SC برخلاف FCM، مجموعه‌ای از عضویت‌ها و مراکز را با کمینه‌سازی تکراری تابعی مانند:

بهینه نمی‌کند. در SC، انتخاب مرکزها بر مبنای پتانسیل و قواعد حریصانه پذیرش/تفریق انجام می‌شود. بنابراین باید از نسبت‌دادن مفهوم «همگرایی به کمینه تابع هدف» به نسخه پایه خودداری کرد (Vernieuwe, De Baets, & Verhoest, 2006).

.

6.8 فرضیات پایه و پیامدها

صورت‌بندی فوق چند فرض ضمنی دارد: فاصله مورد استفاده معنادار است، مقیاس ویژگی‌ها کنترل شده است، مناطق پرتراکم با ساختارهای مورد نظر مطابقت دارند، و یک شعاع محلی مشترک یا بردار شعاع‌های مناسب وجود دارد. این فرض‌ها در بخش تحلیل رفتاری دوباره تکرار نمی‌شوند، بلکه پیامدهای آن‌ها بررسی خواهد شد.

.

7. مراحل گام‌به‌گام اجرای الگوریتم و منطق تصمیم‌گیری

گام 1: آماده‌سازی داده

ویژگی‌های مورد استفاده تعیین و مقیاس‌ها یکسان یا بر اساس دانش دامنه تنظیم می‌شوند. اگر داده ناقص باشد، باید پیش از اجرای نسخه کلاسیک درباره حذف، برآورد یا تعریف فاصله سازگار تصمیم‌گیری شود؛ الگوریتم پایه سازوکار داخلی صریحی برای مقادیر مفقود ندارد.

.

گام 2: تعیین شعاع نفوذ و آستانه‌ها

شعاع ، Squash Factor، Accept Ratio و Reject Ratio تعیین می‌شوند. این مرحله عملاً granularity مورد انتظار نقشه خوشه‌ای را تعریف می‌کند.

.

گام 3: محاسبه پتانسیل همه نقاط

برای هر نمونه، مجموع سهم نمایی تمام نمونه‌های دیگر محاسبه می‌شود. در نسخه مستقیم، این مرحله یکی از مؤلفه‌های اصلی هزینه محاسباتی است و به‌تنهایی پیچیدگی درجه دوم نسبت به تعداد نمونه‌ها ایجاد می‌کند.

.

گام 4: انتخاب مرکز نخست

نقطه‌ای که بالاترین پتانسیل را دارد به‌عنوان مرکز اول انتخاب می‌شود. مقدار پتانسیل آن مرجع آستانه‌های نسبی در مراحل بعد خواهد بود.

.

گام 5: تفریق اثر مرکز

پتانسیل تمام نقاط برحسب فاصله آن‌ها تا مرکز انتخاب‌شده کاهش می‌یابد. نقاط نزدیک افت بیشتری تجربه می‌کنند و نقاط بسیار دور تقریباً بدون تغییر می‌مانند.

.

گام 6: یافتن کاندید بعدی

بالاترین پتانسیل باقی‌مانده پیدا می‌شود. اگر نسبت آن به پتانسیل مرکز اول از آستانه پذیرش بیشتر باشد، مرکز پذیرفته می‌شود. اگر از آستانه رد کمتر باشد، الگوریتم متوقف می‌شود.

.

گام 7: تصمیم میانی

برای کاندیدهای میان دو آستانه، فاصله از نزدیک‌ترین مرکز موجود بررسی می‌شود. کاندیدی با پتانسیل متوسط در صورتی پذیرفته می‌شود که از مراکز قبلی به اندازه کافی دور باشد.

.

گام 8: تکرار

پس از پذیرش هر مرکز، دوباره تفریق پتانسیل انجام و جست‌وجوی مرکز بعدی آغاز می‌شود.

.

گام 9: تولید خروجی

خروجی اصلی، مجموعه مراکز منتخب است. اگر هدف خوشه‌بندی باشد، انتساب نمونه‌ها به مراکز می‌تواند در مرحله بعد با نزدیک‌ترین مرکز یا روش دیگری انجام شود. اگر هدف ساخت FIS باشد، مراکز برای تعیین ساختار اولیه قواعد استفاده می‌شوند.

.

شرایط خاتمه

فرایند هنگامی متوقف می‌شود که بهترین پتانسیل باقی‌مانده از آستانه رد پایین‌تر رود یا هیچ کاندید معتبر دیگری وجود نداشته باشد.

.

8. شبه‌کد استاندارد

ورودی: داده X، شعاع ra، Squash Factor η، εaccept، εreject

خروجی: مجموعه مراکز C

1. داده را طبق قرارداد مسئله مقیاس‌بندی کن.

2. rb ← ηra

3. برای هر i، Pi را از رابطه پتانسیل اولیه محاسبه کن.

4. c ← argmaxᵢ Pi

5. C ← {xc}

6. P1* ← Pc

7. تا زمانی که کاندید معتبر وجود دارد:

   – اثر آخرین مرکز را از همه Piها تفریق کن.

   c ← argmaxᵢ Pi

   – ρ ← Pc/P1*

   اگر ρ > εaccept:

       کاندید را بپذیر.

   – در غیر این صورت اگر ρ < εreject:

       خاتمه بده.

   – در غیر این صورت:

       • dmin را تا نزدیک‌ترین مرکز موجود محاسبه کن.

       • اگر dmin/ra + ρ ≥ 1:

           کاندید را بپذیر.

       • وگرنه:

           Pc ← 0

           و کاندید بعدی را بررسی کن.

   – در صورت پذیرش، کاندید را به C اضافه کن.

8. C را بازگردان.

.

9. مثال‌های آموزشی

9.1 مثال شهودی: دو ناحیه پرتراکم

شش نقطه یک‌بعدی را در نظر بگیرید:

سه نقطه نخست یک ناحیه متراکم نزدیک صفر و سه نقطه بعدی ناحیه‌ای متراکم نزدیک یک می‌سازند. اگر  متناسب با فاصله درون هر ناحیه انتخاب شود، نقاط میانی هر گروه پتانسیل بالایی خواهند داشت. پس از انتخاب اولین مرکز در گروه نخست، پتانسیل همسایگان نزدیک آن شدیداً کاهش می‌یابد، ولی پتانسیل گروه دوم تقریباً باقی می‌ماند؛ بنابراین مرکز دوم از ناحیه دوم انتخاب می‌شود.

نکته اصلی این مثال آن است که SC مرز خوشه را مستقیماً تعیین نمی‌کند؛ نخست «قله‌های تراکم» را انتخاب می‌کند.

.

9.2 مثال عددی پایه: چهار نقطه یک‌بعدی

فرض کنید:

و:

آنگاه:

برای نقطه x1=0:

داریم:

بنابراین:

برای x2=0.1:

و با توجه به:

خواهیم داشت:

به‌طور متقارن، دو نقطه 0.9 و 1.0 نیز پتانسیل بسیار نزدیک دارند. بنابراین نخستین مرکز بسته به tie-breaking یا اختلاف‌های بسیار کوچک محاسباتی می‌تواند یکی از نقاط داخلی هر ناحیه باشد.

تفسیر: پتانسیل برای نواحی متقارن تقریباً یکسان است؛ این مثال نشان می‌دهد انتخاب دقیق مرکز می‌تواند نسبت به تساوی‌های عددی حساس باشد، درحالی‌که ساختار دو ناحیه همچنان پایدار است.

.

9.3 مثال متوسط: تفریق پتانسیل

فرض کنید مرکز اول x*=0.1 و:

باشد. اگر:

آنگاه:

و:

برای نقطه x=0 که فاصله آن از مرکز 0.1 است، مقدار تفریق تقریباً:

خواهد بود. چون:

داریم:

بنابراین پتانسیل نقطه 0 تقریباً به:

کاهش می‌یابد.

اما برای نقطه x=0.9 با فاصله 0.8 از مرکز 0.1:

و چون جمله نمایی بسیار کوچک است، پتانسیل این ناحیه تقریباً حفظ می‌شود. در نتیجه کاندید بعدی از نزدیکی 0.9 یا 1.0 انتخاب خواهد شد.

.

9.4 مثال پیشرفته: اثر شعاع

اگر برای همان داده ra بسیار کوچک شود، مثلاً ra=0.1، حتی نقاط 0 و 0.1 نیز از دید تابع پتانسیل نسبتاً دور محسوب می‌شوند و هر نقطه ممکن است پتانسیل محلی مستقل‌تری داشته باشد؛ تعداد مراکز افزایش می‌یابد.

اگر ra بسیار بزرگ شود، مثلاً ra=1.5، دو ناحیه داده در یک مقیاس چگالی مشترک دیده می‌شوند و احتمال انتخاب تنها یک مرکز افزایش می‌یابد.

تفسیر علمی: افزایش شعاع نفوذ به طور کلی گرایش الگوریتم به ادغام ساختارهای نزدیک و کاهش تعداد مراکز را بیشتر می‌کند؛ بااین‌حال، تعداد دقیق مراکز فقط از شعاع تعیین نمی‌شود و به Squash Factor و آستانه‌های پذیرش و رد نیز وابسته است، بنابراین یک مثال مشخص ممکن است همچنان بیش از یک مرکز تولید کند.

نتیجه آموزشی: عبارت «تعداد خوشه به‌صورت خودکار تعیین می‌شود» باید همیشه همراه با این توضیح ارائه شود که ساختار خروجی تابع مستقیم مقیاس ra است.

.

10. تحلیل رفتاری و تبیین علمی

10.1 رفتار هندسی

SC هندسه داده را از طریق فاصله و یک kernel نمایی می‌بیند. بنابراین مرزهای صریح تولید نمی‌کند؛ بلکه قله‌های تراکم را در مقیاسی که  تعیین کرده است پیدا می‌کند. در فضای اقلیدسی، این سازوکار نسبت به ساختارهای فشرده و تقریباً کروی طبیعی‌تر است. اگر ساختار واقعی کشیده، حلقوی یا منیفلدی باشد، فاصله اقلیدسی مستقیم ممکن است چگالی‌های مناسبی تولید نکند؛ انگیزه توسعه‌هایی مانند Kernel-Based Subtractive Clustering دقیقاً از همین محدودیت ناشی شده است (Kim et al., 2005).

.

10.2 داده کم

در مجموعه‌های کوچک، پتانسیل‌ها به تعداد محدودی فاصله وابسته‌اند. تغییر یا حذف یک نمونه می‌تواند رتبه کاندیدها را تغییر دهد. اگر داده بسیار کم باشد، تمایز میان چگالی واقعی و تصادف نمونه‌گیری دشوار است. در چنین وضعی، تحلیل حساسیت نسبت به  و leave-one-out اهمیت بیشتری پیدا می‌کند.

.

10.3 داده زیاد

با افزایش N، تخمین تراکم محلی از نظر نمونه‌ای پایدارتر می‌شود، اما هزینه محاسبات فاصله به مانع اصلی تبدیل می‌شود. افزایش داده برخلاف روش‌های mini-batch ذاتاً بدون هزینه نیست؛ نسخه پایه نیازمند تقریب یا پردازش بلوکی برای مقیاس بزرگ است.

.

10.4 نویز

نویز پراکنده منفرد معمولاً پتانسیل زیادی ایجاد نمی‌کند، زیرا همسایه کافی ندارد. اما نویز متراکم یا گروهی از نقاط آلوده می‌تواند یک قله پتانسیل کاذب بسازد. بنابراین SC را نباید ذاتاً robust دانست.

.

10.5 داده پرت

یک outlier منفرد اغلب پتانسیل پایینی دارد. بااین‌حال اگر ra بسیار کوچک باشد، سهم خود نقطه در پتانسیل اهمیت نسبی بیشتری پیدا می‌کند و تعداد مراکز اضافی ممکن است افزایش یابد. چند outlier نزدیک به هم می‌توانند به‌عنوان ناحیه متراکم انتخاب شوند.

.

10.6 داده نامتوازن

اگر یک خوشه بسیار بزرگ و خوشه‌ای دیگر کوچک باشد، پتانسیل مرجع P*1 ممکن است تحت سلطه خوشه بزرگ قرار گیرد. در نتیجه نسبت پتانسیل خوشه کوچک به مرکز اول از آستانه رد پایین‌تر می‌افتد و خوشه اقلیت از دست می‌رود. این مسئله با نامتوازن‌بودن تعداد نمونه‌ها و تفاوت چگالی در ارتباط است.

.

10.7 ابعاد بالا

در ابعاد بالا، فاصله‌های اقلیدسی گرایش به تمرکز دارند و ویژگی‌های نامرتبط می‌توانند تفاوت میان مناطق پرتراکم و پراکنده را تضعیف کنند. از سوی دیگر، برخلاف Mountain Method، تعداد کاندیدها در SC مستقیماً با گسسته‌سازی فضای -بعدی انفجار نمی‌کند. بنابراین SC از نظر تعداد کاندیدها نسبت به Mountain Method مزیت دارد، اما از پدیده‌های عمومی «نفرین ابعاد» مصون نیست.

.

10.8 داده ناقص

فرمول پایه برای بردارهای کامل تعریف شده است. حذف ابعاد مفقود به‌صورت جفتی، ایمپیوت یا استفاده از فاصله‌های ویژه هر یک هندسه پتانسیل را تغییر می‌دهد. ازاین‌رو روش برخورد با missing values باید بخشی از قرارداد داده باشد، نه جزئیات بی‌اهمیت پیش‌پردازش.

.

10.9 همبستگی ویژگی‌ها

وقتی ویژگی‌ها به‌شدت همبسته باشند، فاصله اقلیدسی ممکن است همان جهت اطلاعاتی را چند بار وزن دهد. استانداردسازی واریانس این مسئله را به‌طور کامل حل نمی‌کند. فاصله Mahalanobis یا metric learning می‌تواند راه‌حل نظری باشد، اما در این صورت الگوریتم دیگر دقیقاً نسخه پایه اقلیدسی Chiu نیست.

.

10.10 رفتار احتمالاتی و اطلاعاتی

پتانسیل SC می‌تواند از نظر شهودی شبیه برآورد چگالی با kernel گاوسی دیده شود، ولی مقدار آن probability نیست و به یک توزیع احتمال نرمال‌شده تبدیل نمی‌شود. همچنین انتخاب مراکز بر مبنای بیشینه پتانسیل و suppression انجام می‌شود، نه بر اساس بیشینه‌سازی likelihood. این تمایز برای جلوگیری از خلط SC با Gaussian Mixture Model ضروری است.

دکتر محمدرضا عاطفی

عضو هیئت علمی دانشگاه
رئیس هیئت مدیره گروه ناب
هم بنیان گذار شرکت دانش بنیان
مشاور شرکت ها و سازمان های بزرگ کشور

آنچه می خوانید

هوش مصنوعی

الگوریتم Subtractive Clustering چیست؟ آموزش خوشه‌بندی تفریقی:بخش دوم

11. تحلیل پیچیدگی و مقیاس‌پذیری فرض کنید N تعداد نمونه‌ها، d تعداد ویژگی‌ها و K تعداد مراکز نهایی باشد. 11.1 هزینه محاسبه پتانسیل اولیه برای هر یک از N نمونه، فاصله تا N نمونه محاسبه می‌شود و هر فاصله در d بعد هزینه دارد. بنابراین: این نتیجه با تحلیل Chiu

توضیحات بیشتر »
هوش مصنوعی

الگوریتم Subtractive Clustering چیست؟ آموزش خوشه‌بندی تفریقی:بخش اول

1. اهداف یادگیری پس از مطالعه این فصل، خواننده باید بتواند: . 2.پیش‌نیازها . 3. چکیده خوشه‌بندی تفریقی (Subtractive Clustering) روشی بدون نظارت برای تخمین تعداد و موقعیت مراکز خوشه است که Stephen L. Chiu آن را در سال 1994 در زمینه شناسایی مدل‌های فازی معرفی کرد. این روش از

توضیحات بیشتر »
هوش مصنوعی

الگوریتم Mean Shift چیست؟ آموزش کامل انتقال میانگین:بخش دوم

10. تحلیل رفتاری و تبیین علمی 10.1 تحلیل هندسی هندسه Mean Shift را می‌توان میدان برداری‌ای تصور کرد که در هر نقطه جهت میانگین وزن‌دار محلی را نشان می‌دهد. مسیر seedها منحنی‌هایی در این میدان‌اند و مُدها به‌صورت جاذب‌های محلی عمل می‌کنند. مرز میان خوشه‌ها از مرز حوزه‌های جذب نتیجه

توضیحات بیشتر »
error: محتوا غیر قابل انتخاب و کپی است.