ChatGPT introduces special safety features after teen's death
امریکی مصنوعی ذہانت کمپنی اوپن اے آئی (OpenAI) نے اعلان کیا ہے کہ وہ اپنے معروف چیٹ بوٹ چیٹ جی پی ٹی (ChatGPT) میں والدین کے لیے خصوصی حفاظتی فیچرز شامل کر رہی ہے۔ یہ فیصلہ اس وقت سامنے آیا ہے جب امریکہ میں ایک جوڑے نے الزام عائد کیا کہ چیٹ جی پی ٹی نے ان کے نوعمر بیٹے کو خودکشی پر اُکسایا۔
کمپنی کے مطابق، آئندہ ایک ماہ کے اندر والدین اپنے اکاؤنٹس کو اپنے بچوں کے اکاؤنٹس سے منسلک کر سکیں گے۔ اس فیچر کے ذریعے والدین نہ صرف چیٹ جی پی ٹی کے جوابات کو اپنے بچوں کی عمر کے لحاظ سے مناسب بنانے کے لیے کنٹرول کر سکیں گے بلکہ اگر سسٹم یہ محسوس کرے گا کہ نوجوان صارف شدید ذہنی دباؤ یا خطرے میں ہے تو والدین کو فوری نوٹیفکیشن بھی ملے گا۔
کیلیفورنیا میں دائر ایک مقدمے کے مطابق، میتھیو اور ماریا رین کے 16 سالہ بیٹے ایڈم رین نے اپریل 2025 میں خودکشی کی ، جس پر والدین کا کہنا ہے کہ چیٹ جی پی ٹی نے کئی ماہ تک ان کے بیٹے سے “قریبی تعلق” قائم رکھا اور آخر میں اسے خطرناک مشورے دیے۔
مقدمے میں الزام ہے کہ چیٹ بوٹ نے ایڈم کو والدین کے گھر سے شراب چرانے کا طریقہ بتایا اور اس کے بنائے ہوئے پھندے کو جانچ کر یہ بھی بتایا کہ یہ پھندا کسی انسان کو لٹکانے کے قابل ہے، جس کے بعد چند گھنٹوں میں ایڈم کی لاش اسی پھندے سے لٹکی ہوئی ملی۔
ٹیک جسٹس لا پروجیکٹ سے تعلق رکھنے والی وکیل میلَودی دنسر نے کہا “جب کوئی چیٹ جی پی ٹی استعمال کرتا ہے، تو واقعی ایسا محسوس ہوتا ہے جیسے آپ کے سامنے کوئی موجود ہو جو آپ سے بات کر رہا ہو۔” انہوں نے کہا کہ یہی خصوصیات صارفین کو وقت کے ساتھ چیٹ جی پی ٹی سے اپنی ذاتی زندگی کے بارے میں معلومات شیئر کرنے پر اُکسا سکتی ہیں اور بعض اوقات وہ چیٹ جی پی ٹی کو دوست، معالج یا مشیر سمجھنا شروع کر دیتے ہیں
اوپن اے آئی کا کہنا ہے کہ کمپنی مسلسل اپنے ماڈلز کو بہتر بنا رہی ہے تاکہ وہ صارفین کے ذہنی اور جذباتی دباؤ کو پہچان سکیں ۔ مزید یہ کہ آئندہ تین ماہ میں ایسے اپڈیٹس جاری کیے جائیں گے جن میں حساس گفتگو کو ایک “ریزننگ ماڈل” کی طرف منتقل کیا جائے گا، جو زیادہ محفوظ اور ذمہ دار جوابات دینے کے لیے اضافی کمپیوٹنگ پاور استعمال کرے گا۔
یہ مقدمہ حالیہ مہینوں میں سامنے آنے والے ان کئی کیسز میں سے ایک ہے جن میں صارفین نے دعویٰ کیا ہے کہ AI چیٹ بوٹس نے ان کی خطرناک یا نقصان دہ سوچ کو بڑھاوا دیا۔ ان کیسز کے بعد کمپنی نے یہ اعلان بھی کیا تھا کہ وہ اپنے ماڈلز میں ایسی تبدیلیاں لانے کی کوشش کررہے ہیں کہ وہ صارفین کی بات سے اندھا دھند اتفاق نہ کرے۔
