کیا آپ AI پر اعتماد کرسکتے ہیں؟ کیا آپ کو اس کے نتائج کو بغیر کسی سوال کے معروضی طور پر درست ماننا چاہئے؟ مسئلہ یہ ہے کہ خود AI سے سوال کرنے سے بھی واضح جواب نہیں مل پاتے ہیں۔
اے آئی نظام عام طور پر بلیک باکس کی طرح چلاتے ہیں: ڈیٹا ان پٹ ہے ، اور ڈیٹا آؤٹ پٹ ہے ، لیکن اس عمل سے جو اعداد و شمار کو تبدیل کرتے ہیں وہ ایک معمہ ہے۔ اس سے دوگنا مسئلہ پیدا ہوتا ہے۔ ایک یہ کہ یہ واضح نہیں ہے کہ کون سے الگورتھم کی کارکردگی سب سے زیادہ قابل اعتماد ہے۔ دوسرا یہ ہے کہ بظاہر معروضی نتائج انسانوں کی اقدار اور تعصبات کے ذریعہ پائے جاسکتے ہیں جو نظام کو پروگرام کرتے ہیں۔ یہی وجہ ہے کہ ایسے نظاموں کے استعمال کے مجازی فکر کے عمل کے لئے شفافیت کی ضرورت ہے ، یا "قابل فہم AI"۔
اخلاقی لازمی ہر ایک کے لئے جی ڈی پی آر کے تابع ایک قانونی معاملہ بن گیا ہے ، جس کا اثر نہ صرف یورپی یونین میں مقیم کاروباری اداروں پر پڑتا ہے بلکہ ایسے افراد پر بھی اثر پڑتا ہے جو وہاں کے لوگوں یا تنظیموں کے ساتھ معاملات رکھتے ہیں۔ اس میں اعداد و شمار کے تحفظ سے متعلق متعدد دفعات شامل ہیں جو یورپی یونین کے شہریوں کو "کچھ خاص حالات کے علاوہ ، خود کار طریقے سے فیصلہ سازی کے تابع نہ ہونے کا حق" اور "اس فیصلے میں شامل منطق کے بارے میں معنی خیز معلومات فراہم کرنے کا حق فراہم کرتی ہیں۔ "
