هوش مصنوعی می تواند تصمیمات منصفانه ای بگیرد؟

امروزه استفاده از رایانه ها به تعیین وامی که واجد شرایط آن هستیم، شغلی که می گیریم و حتی اینکه چه کسی به زندان می رود کمک می کنند. وقتی نوبت به این تصمیمات بالقوه و تغییر دهنده زندگی می رسد آیا رایانه ها می توانند یک تصمیم منصفانه داشته باشند؟ در مطالعه ای که در ۲۹ سپتامبر در مجله الگو ها منتشر شد محققان آلمانی نشان دادند که مردم فکر می کنند تصمیم یک رایانه می تواند به اندازه تصمیمی که توسط انسان گرفته می شود منصفانه باشد. روبن باخ، دانشمند علوم اجتماعی محاسباتی از دانشگاه مانهایم آلمان می گوید: بسیاری از بحث ها در مورد عدالت رایانه ها بر راه حل های فنی، مانند چگونگی اصلاح الگوریتم های ناعادلانه و نحوه منصفانه سازی سیستم ها متمرکز شده است. اما سوال ما این است که مردم چه چیزی را منصفانه می دانند؟ این فقط در مورد توسعه الگوریتم ها نیست. آن ها باید توسط جامعه پذیرفته شوند و باور ها را در دنیای واقعی برآورده کنند.

تصمیم گیری خودکار جایی که نتیجه گیری صرفاً توسط رایانه انجام می شود تجزیه و تحلیل مجموعه داده های بزرگ برای شناسایی الگو ها برتری دارد. کامپیوتر ها اغلب در مقایسه با انسان ها که تعصبات آن ها می تواند قضاوت ها را مخدوش کند عینی و خنثی در نظر گرفته می شوند. با این حال تعصب می تواند به سیستم های رایانه ای نفوذ کند، زیرا آن ها از داده هایی یاد می گیرند که منعکس کننده الگو های تبعیض آمیز در دنیای ما هستند. درک انصاف در تصمیمات رایانه ای و انسانی برای ساختن جامعه ای عادلانه تر بسیار مهم است.

برای درک اینکه مردم چه چیزی را در تصمیم گیری خودکار منصفانه می دانند محققان ۳۹۳۰ نفر را در آلمان مورد بررسی قرار دادند. محققان به آن ها سناریو های فرضی مربوط به بانک، شغل، زندان و سیستم های بیکاری را ارائه کردند. در این سناریوها، آن ها موقعیت های مختلف را مقایسه کردند از جمله اینکه آیا تصمیم آن ها به نتیجه مثبت منجر می شود یا منفی و این که داده های ارزیابی از کجا می آیند و چه کسی تصمیم نهایی را می گیرد انسان، رایانه یا هر دو آنها. کریستوف کرن، دانشمند علوم اجتماعی محاسباتی می گوید: همانطور که انتظار می رفت دیدیم که تصمیم گیری کاملاً خودکار مورد علاقه همه نیست. اما چیزی که جالب بود این است که وقتی شما نظارت انسانی بر تصمیم گیری خودکار دارید سطح انصاف درک شده شبیه به تصمیم گیری انسان محور می شود. نتایج نشان داد که افراد تصمیمی را عادلانه تر می دانند که انسان ها در آن نقش دارند.

مردم همچنین در هنگام تصمیم گیری های مربوط به سیستم عدالت کیفری یا چشم انداز شغلی که در آن ریسک ها بیشتر است نگرانی های بیشتری در مورد عدالت رایانه ها داشتند. شرکت کنندگان احتمالاً با مشاهده زیان های این کار که بیشتر از سودشان بود تصمیم هایی را که می توانند به نتایج مثبت منجر شوند منصفانه تر از تصمیم های منفی می دانستند. در مقایسه با سیستم هایی که فقط به داده های مربوط به سناریو متکی هستند سیستم هایی که از داده های غیرمرتبط اضافی در اینترنت استفاده می کنند کمتر منصفانه در نظر گرفته می شوند که اهمیت شفافیت و حفظ حریم خصوصی داده ها را تایید می کند. نتایج با هم نشان داد که سیستم های تصمیم گیری خودکار باید به دقت طراحی شوند که نگرانی ها در مورد منصفانه بودن رای آن ها بر طرف شود.

در حالی که موقعیت های فرضی در نظرسنجی ممکن است به طور کامل به دنیای واقعی شبیه نباشند، تیم در حال حاضر در حال بررسی گام های بعدی برای درک بهتر انصاف است. آن ها برای درک اینکه چگونه افراد مختلف عدالت را تعریف می کنند قصد دارند مطالعاتشان را بیشتر کنند. آن ها همچنین می خواهند از نظرسنجی های مشابه برای پرسیدن سؤالات بیشتر درباره ایده هایی مانند عدالت توزیعی، عادلانه بودن تخصیص منابع در میان جامعه استفاده کنند. باخ می گوید: ما امیدواریم که افراد شاغل در صنعت بتوانند این نتایج را به نوعی به عنوان راهی برای فکر کردن به توسعه و استقرار یک سیستم تصمیم گیری خودکار بررسی کرده و در نظر بگیرند. ما همچنین باید اطمینان حاصل کنیم که مردم درک می کنند که داده ها چگونه پردازش می شوند و چگونه تصمیم گیری ها بر اساس آن ها گرفته می شود.