سیستمی برای تشخیص بایاس در الگوریتم ها

با این سیستم خواهید فهمید چه چیزهایی کد شما را تغییر داده اند!!!

شکی نیست که میتوان الگوریتمها را بایاس نمود تا نتایجی منطبق با دید و تصور خالق الگوریتم بدهند. اما چگونه میتوان با درجه ی اطمینان بالا نشانه های بایاس را در الگوریتمها کشف نمود؟

محققان دانشگاه کارنگی ملون سیستمی طراحی نموده اند که با آزمون الگوریتمها محاسبه میکند یک متغیر خاص چه تاثیری بر خروجی خواهد داشت و به این ترتیب به شما در کشف جاهایی از الگوریتم که بایاس دارند کمک خواهد نمود. این سیستم میتواند سیستم های ارزشیابی را چک کند تا ببیند آیا در آنها تبعیض نژادی وزن خاصی دارد یا خیر. همچنین سیستم فوق میتواند اشتباهات ساده در ارزشمند کردن یک فاکتور خاص در الگوریتم را تشخیص دهد.

اگر این سیستم بتواند خود را وارد چرخه ی طبیعی امور کند شفافیت کلی کارها افزایش خواهد یافت. به این ترتیب شرکتها و موسسات قادر خواهند شد روشهای ممیزی و تشخیص خطا را که بدون وجود این سیستم گم میشد را کشف کنند. حتی خود شما هم میتوانید از این سیستم در پرداخت به موقع قبضهایتان کمک بگیرید. البته این سیستم تنها در صورتی موثر خواهد بود که اجازه ی دسترسی به کد الگوریتم داده شود اما در صورتی هم که گروهی بخواهند داده‌های خود را وارد و استخراج نمایند میتوانند این سیستم را مسئول تشخیص خطا در داده ها نمایند.