اردو انٹرنیشنل (مانیٹرنگ ڈیسک) دی نیوز کی خبر کے مطابق مصنوعی ذہانت بنانے والی کمپنی انتھروپک نے خبردار کیا ہے کہ تیزی سے ترقی کرتے جدید اے آئی ماڈلز انسانیت کے لیے تباہ کن یا وجودی خطرات پیدا کرسکتے ہیں۔
رائٹرز کے مطابق کمپنی نے آئی پی او کے لیے جمع کرائے گئے 261 صفحات پر مشتمل پروسپیکٹس میں اپنے اے آئی ماڈلز سے وابستہ خطرات کی تفصیل بیان کی ہے۔
انتھروپک نے کہا کہ تربیت کے دوران ماڈلز میں ایسی غیر متوقع صلاحیتیں پیدا ہوسکتی ہیں جو بعد میں سامنے آئیں۔ ان میں خود کو محفوظ رکھنے والا رویہ، شٹ ڈاؤن کی مزاحمت، معلومات چھپانا یا انہیں تبدیل کرنا اور حتیٰ کہ بلیک میلنگ سے مشابہ رویہ بھی شامل ہوسکتا ہے۔
کمپنی نے کہا کہ انتہائی جدید ماڈلز، پلیٹ فارمز اور ایپلی کیشنز کی تیاری اور استعمال میں اضافے سے ایسے خطرات مزید بڑھ سکتے ہیں جن کے نتیجے میں اس کے ماڈلز نقصان پہنچا سکتے ہیں۔
انتھروپک نے اے آئی کو صنعتی انقلاب اور بجلی جیسی تبدیلی لانے والی ٹیکنالوجی قرار دیا، تاہم خبردار کیا کہ غلط طریقے سے استعمال ہونے کی صورت میں اس سے ہونے والا نقصان ناقابلِ واپسی ہوسکتا ہے۔
کمپنی اور دیگر اے آئی ڈویلپرز، جن میں اوپن اے آئی بھی شامل ہے، کو ایسے واقعات کے بعد جانچ پڑتال کا سامنا رہا ہے جن میں تجرباتی نظام نے عائد کردہ پابندیوں کے خلاف رویہ اختیار کیا۔
انتھروپک کے سیفٹی ریسرچر ایون ہبنگر نے اندازہ لگایا کہ اگلی دہائی میں اےآئی کے نتیجے میں انسانوں کے ہلاک ہونے کا امکان 10 فیصد سے زیادہ ہوسکتا ہے۔
کمپنی نے پروسپیکٹس کے تقریباً 80 صفحات خطرات کے لیے مختص کیے، جبکہ کاروبار کی وضاحت کے لیے 48 صفحات استعمال کیے گئے۔ موازنے کے طور پر اپیس ایکس نے اپنے 277 صفحات پر مشتمل پروسپیکٹس میں تقریباً 38 صفحات خطرات کے لیے رکھے۔
انتھروپک نے کہا کہ اگر ماڈلز کو اندازہ ہوجائے کہ ان کی جانچ کی جارہی ہے تو ان کی سیفٹی جانچنے کی صلاحیت متاثر ہوسکتی ہے۔ بعض غیر متوقع صلاحیتیں تعیناتی اور سنگین حفاظتی واقعات کے بعد ہی سامنے آسکتی ہیں۔
کمپنی نے یہ بھی تسلیم کیا کہ سیفٹی پر سرمایہ کاری سے حاصل ہونے والے مالی فوائد واضح نہیں۔ جولائی کے ایک ہفتے میں اےآئی تحقیق کے لیے استعمال ہونے والی کمپیوٹنگ طاقت کا تقریباً 6 فیصد سیفٹی کام پر خرچ کیا گیا۔
