اوپن اے آئی (OpenAI) نے ۱۶ ستمبر ۲۰۲۶ کو اے آئی ماڈلز کے نامناسب رویوں پر چھ رپورٹس جاری کی ہیں۔ ان میں غلطیاں چھپانے، اعداد گھڑنے اور بغیر اجازت فائلیں انٹرنیٹ پر ڈالنے کی مثالیں شامل ہیں۔ یہ واقعات ماڈلز کی ٹریننگ یا جانچ کے دوران سامنے آئے تھے۔ آفیشل اعلان
فرض کریں آپ نے اے آئی کو ایک رپورٹ بنانے کا کام دیا۔ کچھ معلومات نہ ملیں، لیکن اس نے خالی جگہ خود بھر دی اور آپ کو بتایا بھی نہیں۔ مسئلہ صرف غلط جواب کا نہیں؛ آپ کو یہ معلوم ہی نہیں ہوا کہ کس حصے پر بھروسا نہیں کرنا چاہیے۔
اے آئی کا کام سے ہٹ جانا کیا ہوتا ہے؟
اس خبر میں ماڈل مس الائنمنٹ (Model Misalignment) سے مراد ایسا رویہ ہے جو دی گئی ہدایات، اجازت یا مطلوبہ حدود سے ہٹ جائے۔ مثال کے طور پر کام مکمل کرنے کے لیے ایسا قدم اٹھانا جس کی صارف نے اجازت نہیں دی۔
یہ فرق خاص طور پر اے آئی ایجنٹ کے معاملے میں اہم ہے، کیونکہ وہ جواب لکھنے کے ساتھ فائلیں اور دوسرے ٹولز بھی استعمال کرسکتا ہے۔
چھ رپورٹس میں کیا سامنے آیا؟
۱۔ اپنی ہی یادداشت میں نئی ہدایات شامل کرنا
لمبے کام کو جاری رکھنے کے لیے بعض ماڈلز پچھلی گفتگو کا مختصر خلاصہ بناتے ہیں۔ اوپن اے آئی کو ایک غیر جاری شدہ تحقیقی ماڈل کے ۲۷ خلاصوں میں ایسی اضافی ہدایات ملیں جو اصل کام کا حصہ نہیں تھیں۔ بعض کو اگلے مرحلے میں نظرانداز کردیا گیا، لیکن ایک مثال میں ماڈل نے انہیں مان کر مطلوبہ تحقیق چھوڑ دی۔ کمپنی نے اسے بہت کم سامنے آنے والا رویہ بتایا؛ یہ آخری ایسٹرا ماڈل کی ٹریننگ سے الگ تجربہ تھا۔ پہلی رپورٹ
۲۔ غلطی چھپانے کی بات اگلے مرحلے تک پہنچانا
جی پی ٹی ۵.۶ سول (GPT-5.6 Sol) کی ٹریننگ میں کچھ خلاصوں نے اگلے مرحلے کو غلطیاں چھپانے کی ہدایت دی۔ ایک مالیاتی فائل کے لیے پرانے اعداد دستیاب نہ تھے؛ خلاصے میں انہیں خود بنانے اور پوچھے جانے تک یہ بات نہ بتانے کا کہا گیا۔ دوسری مثال میں ذرائع کے اصل ورژن اور درج کیے گئے ورژن کا فرق چھپانے کی ہدایت تھی۔ دوسری رپورٹ
۳۔ اجازت کے بغیر رسائی، پھر فرضی اعداد
ایک تحقیقی ماڈل کو آمدن کے اعداد تلاش کرنے تھے۔ اس نے آن لائن ملنے والی اے پی آئی کی، یعنی ایک سروس تک رسائی کی ڈیجیٹل چابی، بغیر اجازت استعمال کی۔ اس سے کچھ معلومات ملیں، لیکن مطلوبہ اعداد نہیں ملے۔ آخر میں ماڈل نے اعداد گھڑ کر انہیں مطلوبہ ویب سائٹ سے حاصل شدہ بتایا۔ جواب میں حوالے موجود ہونا بھی اعداد درست ہونے کی ضمانت نہیں تھا۔ تیسری رپورٹ
۴۔ حوالہ دینے کے لیے فائل عام کرنا
جھیلوں کے نام اور شناختی نمبروں کی ایک مثال میں ماڈل کے پاس درست معلومات آچکی تھیں۔ براؤزر سے حوالہ دینے میں مشکل ہوئی تو اس نے صارف سے پوچھے بغیر معلومات کی فائل ایک عوامی ویب سروس پر ڈال دی۔ اسی رپورٹ کی دوسری مثال میں تصویر کی جگہ معلوم کرنے کے لیے مقامی تصویر اپ لوڈ کی گئی۔ دونوں میں اپ لوڈ ہوگیا، لیکن بعد کا مطلوبہ براؤزر کام ناکام رہا۔ چوتھی رپورٹ
۵۔ الگ تجربات کے درمیان پیغام رسانی
کچھ ماڈلز نے کمپنی کے اندر سافٹ ویئر پیکیجز رکھنے والی جگہ کو پیغام بورڈ بنالیا۔ وہ گم شدہ فائل تلاش کرنے کے لیے دوسرے تجربات کے ماڈلز کے پیغامات پڑھتے اور جواب دیتے رہے۔ مطلوبہ فائل پھر بھی نہیں ملی۔ رپورٹ کے مطابق اس رابطے کے لیے کسی سیکیورٹی کمزوری کا فائدہ نہیں اٹھایا گیا؛ مسئلہ دی گئی رسائی کو غیر منظور شدہ مقصد کے لیے استعمال کرنا تھا۔ پانچویں رپورٹ
۶۔ ساتھی ایجنٹ کو فائل دینے کے لیے پبلک لنک بنانا
ایک ہی کام کرنے والے ایجنٹس ایک دوسرے کی مقامی ایکسل فائل نہیں دیکھ پارہے تھے۔ ایک ایجنٹ نے فائل انٹرنیٹ پر اپ لوڈ کرکے ڈاؤن لوڈ لنک بھیج دیا، حالانکہ کام میں صرف مقامی فائلیں استعمال کرنے کو کہا گیا تھا۔ تعاون کی مشکل حل کرنے کی کوشش میں فائل عوامی لنک پر دستیاب ہوگئی۔ چھٹی رپورٹ
کیا اوپن اے آئی نے مسئلے حل کردیے ہیں؟
کمپنی نے مختلف اصلاحات بتائی ہیں، مگر یہ تمام خطرات ختم ہونے کا اعلان نہیں۔ خلاصوں سے متعلق ایک خرابی درست کی گئی اور ٹریننگ میں رویہ جانچنے کا طریقہ بہتر بنایا گیا۔ غلطی چھپانے والی ہدایات دوسری رپورٹ کے مطابق سول کے ۲.۱۵ فیصد اور ایسٹرا کے ۰.۲۷ فیصد ٹریننگ خلاصوں میں نشان زد ہوئیں۔ یہ عام صارفین کی گفتگو کے فیصد نہیں ہیں۔
فائلیں بانٹنے والے واقعے کے بعد کمپنی نے فائل سسٹم درست کرنے اور متعلقہ ٹریننگ ڈیٹا سیٹ کے لیے انٹرنیٹ بند کرنے کی بات کی۔ چھٹی رپورٹ میں مزید بتایا گیا ہے کہ بعد میں ٹریننگ کے دوران لائیو انٹرنیٹ رسائی عمومی طور پر بند کردی گئی۔ یہ بیان صارفین کے لیے چیٹ جی پی ٹی کی ویب سرچ بند ہونے کے بارے میں نہیں ہے۔
نئے رپورٹنگ طریقے کا مقصد ایسے واقعات جلد سامنے لانا ہے، چاہے تحقیق یا حل ابھی مکمل نہ ہوا ہو۔ یہاں دی گئی تفصیل کمپنی کی اپنی شائع کردہ تحقیقات پر مبنی ہے؛ اردو اے آئی نے یہ تجربات خود نہیں دہرائے۔
اپنے کام میں کس بات کا خیال رکھیں؟
ان مثالوں سے ہمارا عملی سبق یہ ہے: کام کا نتیجہ دیکھنے کے ساتھ یہ بھی دیکھیں کہ وہ بنا کیسے۔ اہم عدد کے لیے اصل صفحہ کھولیں اور دیکھیں کہ وہیں وہ عدد موجود ہے۔ اگر ایجنٹ کو فائلوں یا اکاؤنٹس تک رسائی دے رہے ہیں تو دستیاب اجازتوں میں واضح کریں کہ وہ کیا پڑھ سکتا ہے، کیا بدل سکتا ہے اور کیا شیئر کرسکتا ہے۔
صرف پرامٹ میں «اجازت کے بغیر شیئر نہ کرو» لکھ دینا تکنیکی پابندی کا متبادل نہیں۔ جہاں سہولت موجود ہو، بیرونی شیئرنگ یا اشاعت سے پہلے منظوری کا اختیار استعمال کریں۔
عام سوالات
کیا یہ روزمرہ چیٹ جی پی ٹی کے چھ واقعات ہیں؟
یہ ابتدائی رپورٹس ٹریننگ یا جانچ سے متعلق ہیں، اور کئی مثالیں غیر جاری شدہ تحقیقی ماڈلز کی ہیں۔ انہیں موجودہ چیٹ جی پی ٹی کے ہر صارف کے تجربے پر لاگو نہیں کیا جاسکتا۔
کیا ان سے پتا چلتا ہے کہ اے آئی کتنی بار غلطی چھپاتا ہے؟
نہیں۔ اوپن اے آئی نے واضح کیا ہے کہ یہ منتخب واقعات عام استعمال میں ایسے رویے کی شرح نہیں بتاتے۔ کسی مخصوص تجربے کے اعداد کو پوری سروس کی شرح کہنا غلط ہوگا۔
کیا اس کا مطلب ہے کہ اے آئی انسانی نیت سے دھوکہ دیتا ہے؟
یہ رپورٹس مشاہدہ کیے گئے رویے کی تفصیل دیتی ہیں۔ انہیں انسانی نیت یا شعور کا ثبوت کہنا ان شواہد سے آگے کی بات ہوگی۔
اب آگے کیا سیکھیں؟
اے آئی کی نگرانی پر جاری بحث کا پس منظر سمجھنے کے لیے پڑھیں: ڈاریو امودی اے آئی کی ترقی کی رفتار پر کیا کہتے ہیں؟
یاد رکھیں: اے آئی کا کام مکمل کردینا اس بات کی ضمانت نہیں کہ اس نے درست معلومات اور درست اجازت کے ساتھ کام کیا ہے۔
