دکتر محمدرضا عاطفی

عضو هیات علمی دانشگاه 
مشاور استراتژی 

آزمون و صحه‌گذاری

مفاهیم و تعاریف

آزمون‌های ساختار مدل

1. آزمون تایید (تصدیق) ساختار
2. آزمون تایید پارامتر
3. آزمون شرایط حدی
4. آزمون کفایت مرزی
5. آزمون سازگاری ابعاد یا واحد

آزمون‌های رفتار مدل

1. آزمون بازتولید رفتار
2. آزمون ناهنجاری رفتاری
3. آزمون حساسیت رفتاری
4.  آزمون خطای انتگرال گیری
5. آزمون اعضای خانواده
6. آزمون رفتار غافلگیرکننده

آزمون‌های پیامد سیاست و استراتژی

1. آزمون پیش بینی رفتار تغییر یافته
2. آزمون حساسیت سیاست

مراجع

آزمون‌ رفتار غافلگیرکننده

مقدمه

اختلاف بین رفتار مدل و مقادیر انتظاری نشان می‌دهد که در مدل رسمی، مدل ذهنی یا هر دو نقص وجود دارد. البته، اغلب، اختلاف بین خروجی مدل و درک شما از دینامیک سیستم، نشان دهنده نقص در مدل رسمی است. با این حال، گاهی اوقات، این مدل ذهنی شما و درک شما از داده‌ها است که نیاز به تجدید نظر دارد. آزمون رفتار غافلگیرانه زمانی انجام می‌شود که یک مدل رفتار خاصی را ایجاد کند که قبلاً شناسایی نشده باشد اما در واقع در سیستم واقعی امکان وقوع داشته باشد. نظریه نسبیت عام انیشتین مثال معروفی را ارائه می‌دهد. انیشتین پیشنهاد کرد که گرانش تار و پود فضا-زمان را خم می‌کند و باعث می‌شود نور مسیرهایی را که به نظر می‌رسد منحنی هستند دنبال کند. در سال 1919، ستاره شناس بریتانیایی، سر آرتور ادینگتون، این نظریه را با عکسبرداری از ستارگانی که نور آنها از نزدیکی خورشید طی یک خورشید گرفتگی کامل عبور می‌کرد، آزمایش کرد. نسبیت عام پیش بینی کرد که نور این ستارگان با عبور از نزدیکی خورشید به مقدار مشخصی منحنی می‌شود. ادینگتون نشان داد که مسیر و شعاع نوری این ستارگان، که برای مدت کوتاهی در طول کسوف قابل مشاهده هستند، در واقع به میزانی منطبق با پیش‌بینی‌های نظریه اینشتین تغییر کرده است. یافتن رفتار غیرمنتظره، نسبیت عام را تقویت کرد.

مثال

برای مثالی از کسب و کار، فارستر یک بار مدلی را برای یک سازنده بزرگ قطعات خودرو توسعه داد. این شرکت چند سالی بود که با وجود برتری فنی محصولات خود، سهم بازار خود را از دست داده بود. بسیاری در شرکت افزایش رقابت را مقصر می‌دانستند. بیشتر فرضیات سهم بازار براین اصل استوار است که تغییرات در زمان گسترش سریعتر از رکود می‌باشد، به این دلیل که مشتریان تنها زمانی به رقبا روی می‌آورند که محصولات شرکت با کمبود عرضه شوند. با این حال، در شبیه سازی، سهم بازار در طول رکود سریعتر از رونق کاهش یافت. در ابتدا، فارستر مشکوک بود که مشکلی در نحوه درک سیاست‌های مدیریت موجودی شرکت وجود دارد. با این حال، آزمایشات بیشتر هیچ خطایی را نشان نداد. نتیجه مقاومت بیش از حد شرکت در نگهداری موجودی‌ها بود. هر زمان که سفارشات کاهش می‌یافت، شرکت سفارشات و تولید قطعات را به شدت کاهش می‌داد به طوری که محصول در طول رکود بازار در واقع کمتر از زمان توسعه در دسترس بود. بررسی دقیق داده‌ها نشان داد که سهم بازار در واقع در دوران رکود سریع ترین کاهش را داشته است. این نتیجه شگفت‌انگیز در نهایت باعث تغییر در سیاست‌های تولید شرکت شد.

توجه داشته باشید که آزمون رفتار غافلگیرکننده نیازی به پیش‌بینی رویدادهای آینده از جمله اینکه چه کسی مثلا در جنگ روسیه برعلیه اکراین پیروز خواهد شد، ندارد. خورشید در تمام طول مدت فضا-زمان را منحرف می‌کرد، اما تا زمانی که اینشتین قانون شگفت‌انگیزش را مطرح کرد که گرانش می‌تواند نور را خم کند، هیچ‌کس فکر نمی‌کرد. در مورد مدل‌های با اهمیت کمتر هم همین‌طور است: تا زمانی که مدل فورستر به این نتیجه غیرمنتظره اشاره کرد که محصول واقعاً می‌تواند در طول رکود نسبت به رونق کمتر در دسترس باشد، این ایده که رکود منجر به مازاد محصول می‌شود، بدون چالش باقی ماند. ما هرگز تمام داده‌ها و زمان جستجوی همه الگوهای مهم را نداریم. یکی از مزایای اصلی مدل سازی این است که به دنبال چه چیزی باشید.

برای اینکه آزمون رفتار غافلگیرانه موثر باشد، باید رفتار مدل را از نزدیک تحلیل کنید. به رفتار همه متغیرها نگاه کنید، نه تنها به شاخص‌های اصلی. منابع همه رفتارهای غیرمنتظره یا غیرعادی را ردیابی کنید.

 باید بر مشکلات سوگیری پس‌بینی و حافظه بازسازی‌کننده غلبه کرد. پس از ارائه تجزیه و تحلیل، معمولاً مشتری یا مخاطب ادعا می‌کند که نتایج واضح است، و می‌گویند “شما برای فهمیدن آن نیازی به مدل ندارید” یا “من از قبل می‌دانستم”. از آنجایی که مدل سازی تکراری است، یادگیری اغلب تدریجی است و افراد به سختی می‌توانند به یاد بیاورند که قبل از شروع پروژه چگونه موقعیت را درک کرده‌اند. برای غلبه بر تعصبات گذشته، باید مدل‌های ذهنی تیم مشتری را قبل از تلاش مدل‌سازی به دقت مستند کرد.

مقدمه

دومین آزمون تصدیق ساختار، آزمون تأیید پارامتر است و به معنای ارزیابی پارامترهای ثابت در برابر دانش سیستم‌های واقعی از نظر مفهومی و عددی است. هر ثابت (و متغیر) باید معنا و مصداق واقعی داشته باشد. برای این کار می‌توان از تخمین آماری استفاده کرد و یا از تخمین قضاوتی بهره برد. ممکن است برای تخمین پارامترها از اقتصادسنجی، سری زمانی یا روش‌های دیگر نیز استفاده کرد.

انتخاب مقادیر اولیه مناسب برای معادلات متغیر حالت، مقادیر ثابت‌ها و توابع جدول ارتباط مستقیمی با منطق مدل دارد و مقادیر باید بر اساس داده‌های منتشر شده از منابع معتبر باشد. نرم‌افزارهای کامپیوتری اکنون برای تخمین و توجیه مقادیر دقیق پارامترها به گونه‌ای که بتوانند رفتار مورد انتظار سیستم را تولید کنند در دسترس هستند. راستی‌آزمایی یا تصدیق ساختار و تصدیق پارامتر به هم مرتبط هستند و هر دو آزمون هدف اصلی یکسانی دارند.

هدف مدل

• آیا مقادیر پارامترها با دانش توصیفی و عددی مربوط به سیستم سازگار است؟
• آیا همه پارامترها مشابه دنیای واقعی دارند؟

ابزارها و روش‌های اجرایی

• از روش‌های آماری برای تخمین پارامترها استفاده کنید (گستره وسیعی از روش‌های موجود).
• از آزمون‌های مدل جزئی برای کالیبره کردن زیرسیستم‌ها استفاده کنید.
• از روش‌های قضاوتی مبتنی بر مصاحبه، نظر متخصص، گروه‌های متمرکز، مطالب آرشیوی، تجربه مستقیم و غیره استفاده کنید.
• برای تخمین روابط در مدل‌های بزرگتر ، زیرمدل‌های تفکیک‌شده را توسعه دهید.

قبل از تصمیم گیری در مورد اینکه یک پارامتر چگونه باید تخمین زده شود یا اینکه آیا مقدار آن معقول است، مطمئن شوید که هر ثابت (و متغیر) معنای واقعی و واضحی دارد. سپس باید تصمیم بگیرید که چگونه مقادیر هر پارامتر را تخمین بزنید. روش اصلی عبارت است ازتخمین آماری از داده‌های عددی یا تخمین قضاوتی است.

برآورد مقادیر پارامترها از داده‌های عددی به‌ویژه  از روش اقتصادسنجی بسیار رایج است. به مدل‌سازان دینامیک سیستم توصیه می‌شود که اقتصادسنجی و سایر رویکردهای تخمین پارامترها را مطالعه کنند. دانستن اینکه تکنیک‌های رگرسیون چگونه کار می‌کنند، فرضیه‌ها و محدودیت‌های آنها چیست و این که هر ابزاری چه زمانی مناسب است برای مدلسازان دینامیک امری ضروری است. فرضیه‌ها، مفروضاتی در مورد داده‌ها و مدل هستند که برای استفاده از تکنیک برآورد جهت ارائه نتایج قابل اعتماد و دقیق نیاز می‌باشد. رایج ترین روش، رگرسیون چندگانه با حداقل مربعات معمولی (OLS)، اغلب در مدل‌های دینامیکی مناسب نیست. برآوردهای OLS در حضور همخطی (جایی که متغیرهای سمت راست به طور متقابل همبستگی دارند)، خودهمبستگی (که متغیر وابسته به مقادیر گذشته خودش بستگی دارد، یعنی جایی که بازخورد وجود دارد) و ناهمسانی (جایی که در آن واریانس متغیرها در سراسر نمونه ثابت نیست) دقیق نیستند. ما برای این کار از سایر روش‌های برآورد ساده تر و قوی‌تر در دسترس استفاده می‌کنیم مانند حداکثر احتمال maximum likelihood و GLS (حداقل مربعات تعمیم‌یافته) تا روش‌های پیچیده‌ای مانند فیلتر کالمن. هر روشی نقاط قوت و ضعف خود را دارد. باید ساده‌ترین روشی را انتخاب کرد که با ساختار بازخورد مدل و ویژگی‌های آماری داده‌ها مناسب باشد. در عین حال، محدودیت‌های موجود بر روی داده‌های عددی به این معنی است که اغلب غیرممکن است که بتوان همه پارامترهای یک مدل را تخمین زد.

همچنین برای تخمین قضاوتی پارامترها باید استفاده از نظرات متخصصین، مطالب بایگانی، تجربه مستقیم، و روش‌های دیگر را توسعه داد.  پارامترها را نیز می‌توان با ایجاد یک مدل فرعی تفکیک شده تخمین زد. در عمل، روش‌های آماری و قضاوتی با هم استفاده می‌شوند. دانش واقعی سیستم، محدوده قابل قبول را برای بسیاری از پارامترها محدود می‌کند. تخمین آماری روشی برای کنترل و چک کردن برآوردهای قضاوتی فراهم می‌کند.

در یک مدل بزرگ معمولاً برآورد همه پارامترهای بحرانی به طور همزمان غیرعملی است. حتی در صورت امکان، تخمین همزمان می‌تواند منجر به مشکلاتی شود، زیرا مدل‌های بزرگ اغلب کمتر از حد تصور امکان تعریف جزییات را دارند (به این معنی که حتی یک مجموعه از مقادیر پارامترها نمی‌تواند به شکل مناسبی نماینده تمام داده‌های جامعه باشد. در این موارد برآوردهای قضاوتی مبتنی بر دانش سیستم در انتخاب پارامترها معقول است.

برای تخمین پارامترها می‌توان در سطح جزئی از مدل یا در سطح زیر سیستم نیز استفاده کرد. همانند آزمون مدل جزئی برای بررسی منطقی بودن، مدل ساز یک ساختار کلیدی یا قانون تصمیم را به صورت مجزا تحلیل کرده و حلقه‌های بازخوردی آن را به کل مدل تعمیم می‌دهد. در این رویکرد ورودی‌های هر قاعده تصمیم‌گیری یا فرمول‌بندی براساس داده‌های تاریخی واقعی تعریف می‌شوند و پارامترها (به صورت قضاوتی یا رسمی) تعیین می‌شوند تا خروجی زیرسیستم به بهترین وجه با داده‌های تاریخی مطابقت پیدا کند.

نکته مهم آن است که معنا دار بودن آماری پارامترها، تایید کننده صحت رابطه نیست. معنا دار بودن آماری نشان می‌دهد که یک معادله چقدر با داده‌های مشاهده شده مطابقت دارد. این نشان نمی‌دهد که آیا روابط علی مطابق با واقعیات دنیای واقعی وجود دارد یا خیر. یک رابطه آماری معنی دار بین متغیرها فقط نشان می‌دهد که آنها همبستگی بالایی دارند و احتمالاً همبستگی ظاهری نتیجه تصادفی نیست. ادعای علّی بودن یک رابطه، یک قضاوت ارزشی است که باید با در نظر گرفتن تمام شواهد، عددی و کیفی انجام شود.

معنادار بودن آماری به عنوان آزمون صحه گذاری مدل در رد معادلات توصیف کننده روابط هم کاربرد دارد. اگرچه دلایل مختلفی وجود دارد که ممکن است یک رابطه از نظر آماری معنا دار نباشد، برای مثال داده‌های بسیار کمی وجود داشته باشد یا تنوع داده‌ها کافی نباشد. هنگامی که دانش مستقیم از سیستم نشان می‌دهد که یک رابطه واقعی و مهم است، باید آن را به رسمیت شناخت و برای تخمین مقادیر از قضاوت استفاده کرد.

مثال: برآورد آماری متغیرهای نرم

فرض کنید در یک سیستم خدماتی به دنبال تعیین پارامترهای کیفیت خدمات هستیم. می‌توانیم زمان اختصاص داده شده به هر مشتری را از طریق داده‌های گذشته و به شکل آماری برآورد کنیم. طبیعی است که این زمان یک متغیر تصادفی است. و زمان صرف شده برای هر مشتری دقیقا یکسان نیست. طبیعتا زمان صرف شده با هر مشتری با قضاوت مشتریان در مورد کیفیت خدمات ارتباط زیادی دارد. اما نکته قابل تامل این است که زمانی که بار کاری بالا می‌رود زمان صرف شده و در نتیجه کیفیت خدمات کاهش می‌یابد و این تبدیل به عادت می‌شود در نتیجه هنگامی که حجم کاری هم کم می‌شود ممکن است زمان صرف شده برای مشتری افزایش نیابد. بنابراین این داده‌ها نامتقارن هستند. تحلیل بیشتر ممکن است نشان دهد که سازمان هیچ ابزاری برای نظارت بر رضایت مشتری و بازخورد آن به مدیران ندارد. هر زمان که بار کاری زیاد می‌شد، کارگران زمان صرف شده با هر مشتری را کاهش می‌دادند تا کارهای عقب مانده را جبران کنند. در این صورت مدیران بدون داشتن روشی برای اندازه گیری کاهش رضایت مشتران ممکن است کاهش زمان و در نتیجه افت کیفیت را به عنوان بهبود بهره وری تفسیر کنند. بنابراین برآورد آماری ترکیبی از روش‌های تخمین پارامترهای به شیوه آماری و قضاوتی، کار میدانی و تجزیه و تحلیل داده‌های تاریخی، درک دقیق تر و مطمئن تری از پویایی سازمان نسبت به هر روش به تنهایی است.

مثال: توسعه یک زیرمدل

گاهی تخمین پارامترهای مدل کار بسیار سختی خواهد بود. هم به این دلیل که به دلیل گستردگی فعالیت‌ها جمع آوری داده‌ها ممکن است غیر ممکن باشد و یا پیشینه تاریخی از آن پارامتر وجود نداشته باشد. بنابراین می‌توانیم مدل را در یک سطح کوچک که می‌تواند محدودیت جغرافیایی، دامنه فعالیت، کارهای محدودتر، مشتریان هدف و یا غیره باشد طراحی می‌کنیم و پارامترهای مدل را برآورد می‌کنیم و سپس با توجه به خطها آن را به کل تعمیم می‌دهیم.