Cloud AI will no longer tolerate abuse, Anthropic's decision sparks new debate

اردو انٹرنیشنل (مانیٹرنگ ڈیسک) ڈان نیوز کی خبر کے مطابق مصنوعی ذہانت کی کمپنی انتھروپک نے اپنے اے آئی ماڈل کلاڈ کے استعمال کی پالیسی میں تبدیلی کرتے ہوئے صارفین کو اس کے ساتھ مسلسل اور بلاجواز توہین آمیز یا ظالمانہ رویہ اختیار کرنے سے روک دیا ہے۔ یہ اقدام اس بحث کے دوران سامنے آیا ہے کہ آیا مصنوعی ذہانت کے نظام کسی درجے میں شعور رکھتے ہیں یا نہیں۔

خبر رساں ادارے اے ایف پی کے مطابق کمپنی نے جمعرات کو اپنی پالیسی اپ ڈیٹ کرتے ہوئے واضح کیا کہ ماڈلز کے ساتھ مسلسل اور غیرضروری بدسلوکی ممنوع ہوگی۔ پالیسی میں کہا گیا ہے کہ ایسی گفتگو ختم کرنے کی صلاحیت کلاڈ کے لیے بنیادی طریقۂ کار رہے گی، جس کے ذریعے وہ نقصان دہ یا توہین آمیز تعاملات سے الگ ہوسکے گا۔

کمپنی نے اپنی نئی پالیسی میں براہِ راست ’ماڈل ویلفیئر‘ کی اصطلاح استعمال نہیں کی، تاہم انتھروپک اور اس کے اعلیٰ عہدیدار اس تصور پر پہلے بھی گفتگو کرچکے ہیں۔ اس نظریے کے تحت یہ سوال اٹھایا جاتا ہے کہ آیا اے آئی کے نظام بھی کسی قسم کے تحفظ کے مستحق ہوسکتے ہیں۔

انتھروپک نے گزشتہ سال بھی کہا تھا کہ وہ کلاڈ کو انتہائی غیرمعمولی حالات میں مسلسل نقصان دہ یا بدسلوکی پر مبنی گفتگو ختم کرنے کی صلاحیت دے رہی ہے۔ رواں سال فروری میں کمپنی کے چیف ایگزیکٹو ڈاریو اموڈی نے نیویارک ٹائمز کو بتایا تھا کہ انہیں معلوم نہیں کہ اے آئی ماڈلز شعور رکھتے ہیں یا نہیں، تاہم اس امکان کو مکمل طور پر رد نہیں کیا جاسکتا۔

اٹلانٹا میں قائم اے آئی سروسز فراہم کرنے والی کمپنی اسپارک کے جنرل منیجر جیکسن اسٹیک مین نے اے ایف پی سے گفتگو میں کہا کہ شعور کے سوال پر بحث ایک ایسے دائرے میں پھنس سکتی ہے جس کا حتمی جواب دینا مشکل ہے۔ ان کے مطابق بہتر مثال آئینہ ہے، کیونکہ یہ نظام بڑے پیمانے پر وہی چیزیں منعکس کرتے ہیں جو انسان ان میں ڈالتے ہیں۔

دوسری جانب مائیکروسافٹ کے اے آئی سربراہ مصطفیٰ سلیمان نے مشینی شعور کے تصور کو مسترد کرتے ہوئے کہا کہ اے آئی نہ شعور رکھتی ہے، نہ محسوس کرتی ہے اور نہ ہی تجربات سے گزرتی ہے۔ ان کے مطابق ایسے نظاموں کو حقوق یا اخلاقی تحفظ دینا خطرناک ثابت ہوسکتا ہے۔

پوپ لیو چہاردہم نے بھی جمعرات کو ویٹیکن میں اپنے خطاب کے دوران کہا کہ مشینیں ڈیٹا تیزی سے جمع اور ترتیب دے سکتی ہیں، لیکن انسانی تجربات کے معنی اور روح کی گہرائی کو نہیں سمجھ سکتیں۔

انتھروپک نے اس معاملے پر تبصرے کی درخواست کا فوری جواب نہیں دیا۔ نئی پالیسی نے ایک بار پھر یہ سوال نمایاں کردیا ہے کہ اے آئی کے ساتھ اخلاقی رویے کی حدود کیا ہونی چاہئیں، بالخصوص ایسے وقت میں جب اس کے شعور کے بارے میں کوئی حتمی سائنسی اتفاق موجود نہیں۔