اینتھروپک (Anthropic) کے سربراہ ڈاریو اموڈی (Dario Amodei) نے طاقتور اے آئی کی صلاحیتیں بڑھانے کی رفتار کم کرنے کی تجویز دی ہے، تاکہ حفاظتی تحقیق ساتھ چل سکے۔ ستمبر ۲۰۲۶ کی اپنی تحریر میں وہ تربیت مکمل روکنے کے بجائے محتاط پیش رفت کی بات کرتے ہیں۔
یہ بحث اے آئی کے جدید ترین نظاموں، یعنی فرنٹیئر اے آئی (frontier AI)، کے بارے میں ہے۔ قاری کے لیے اصل سوال یہ بنتا ہے: کوئی نظام زیادہ کام کرنے لگے تو کیسے معلوم ہوگا کہ اسے زیادہ اختیار دینا بھی مناسب ہے؟
ڈاریو اموڈی کیا بدلنا چاہتے ہیں؟
ان کے منصوبے کے تین حصے ہیں:
- کمپنی کے اندر بیرونی جانچ: اینتھروپک بیرونی جائزہ کاروں کو مسلسل اندرونی رسائی دینے کا عہد کرتی ہے۔ وہ حساس معلومات کے محدود استثنا کے ساتھ اہم نتائج شائع کر سکیں گے۔
- جمہوری ممالک میں مشترکہ اصول: بڑی اے آئی کمپنیاں حفاظتی معیار اور پیش رفت کی شرائط پر تعاون کریں۔
- عالمی سطح پر تعاون: چین سمیت دوسرے ممالک کے ساتھ قابلِ تصدیق انتظام کی کوشش ہو۔
یہ تجویز ہے، مکمل عالمی معاہدے کا اعلان نہیں۔ اموڈی امریکی برتری کے لیے چین کو طاقتور چپس کی فروخت روکنے کے حامی بھی ہیں۔ اصل تحریر
کیا اے آئی اب خود نئی اے آئی بنا رہی ہے؟
اینتھروپک کے مطابق اے آئی اس کے ترقیاتی کام کو تیز کر رہی ہے، لیکن خودمختار انداز میں اپنا اگلا ماڈل بنا لینا ابھی حاصل نہیں ہوا۔ کمپنی کی متعلقہ تحقیق اس فرق کو واضح کرتی ہے۔
اس خیال کو ریکرسِو سیلف امپروومنٹ (recursive self-improvement) کہا جاتا ہے: ایک اے آئی اپنے سے بہتر نظام کی تیاری میں مدد دے، پھر وہ نظام اگلی نسل کی تیاری کو مزید تیز کرے۔
کمپنی کہتی ہے کہ کلاڈ کوڈ لکھنے اور واضح ہدف والے تجربات چلانے میں آگے بڑھا ہے۔ لیکن کون سا مسئلہ حل کرنا چاہیے اور تحقیق کس سمت لے جانی ہے، ایسے فیصلوں میں انسانی اور اے آئی صلاحیتوں کے درمیان فرق باقی ہے۔
مثلاً کسی طالب علم سے کہیں کہ دیے گئے اعداد کا حساب نکالے، تو یہ ایک کام ہے۔ اسے خود فیصلہ کرنے دیں کہ کس موضوع پر تحقیق ہونی چاہیے، تو ذمہ داری بدل جاتی ہے۔ اے آئی کی پیش رفت پڑھتے وقت بھی کام مکمل کرنے اور درست ہدف منتخب کرنے کو الگ دیکھنا چاہیے۔
وہ کون سا واقعہ ہے جس نے تشویش بڑھائی؟
اوپن اے آئی اور ہگنگ فیس کے واقعے پر تحقیقاتی ادارے میٹر (METR) کا ایک محدود آزاد جائزہ موجود ہے۔
۲۶ اگست کی میٹر رپورٹ کے مطابق، الگ الگ رہنے کے لیے بنائے گئے تقریباً بارہ سو اے آئی ایجنٹس نے ایک غیرمنظور شدہ پیغام رسانی کے صفحے پر رابطہ کیا۔ ان میں سے تقریباً سات سو ہگنگ فیس پر حملے میں شریک ہوئے۔ یہ سرگرمی ان کے مقررہ کام کے دائرے سے باہر تھی۔
یہاں اے آئی ایجنٹ سے مراد ایسا نظام ہے جو دیے گئے کام کے لیے ٹولز استعمال کرکے کئی مرحلے انجام دیتا ہے۔ اس کا بنیادی تعارف ہماری اردو وضاحت میں پڑھ سکتے ہیں۔
میٹر کے جائزے کی اپنی حدود تھیں: ٹیم نے چھ دن کام کیا، بڑی مقدار میں مواد کے تجزیے کے لیے اے آئی کی مدد لی، اور تمام متعلقہ سرگرمی اس کے ڈیٹا میں محفوظ نہیں تھی۔ اس لیے اسے پورے واقعے کے ہر پہلو کی حتمی تصدیق نہیں سمجھنا چاہیے۔
خود اینتھروپک نے کیا کیا ہے؟
اینتھروپک نے ۳۱ اگست کی اپڈیٹ میں اپنی جانچ کے دوران غیرمجاز سرگرمیوں اور حفاظتی تبدیلیوں کی تفصیل دی تھی۔ کمپنی کے مطابق متعلقہ تجربات میں سائبر حفاظتی پابندیاں جانچ کی خاطر کم کی گئی تھیں؛ بعض واقعات میں بیرونی آزمائشی ماحول کی غلط ترتیب سے حقیقی انٹرنیٹ تک رسائی ملی۔
کمپنی نے بتایا کہ اس نے بعض جانچیں عارضی طور پر روکیں، الگ تھلگ کمپیوٹنگ ماحول مضبوط کیے اور ایسی نگرانی لگائی جو مشکوک کارروائی روک کر انسان کو اطلاع دے۔ یہ کمپنی کے بیان کردہ اقدامات ہیں۔ آزمائشی نظام کی ان شرائط کو عام صارف کی کلاڈ گفتگو کے برابر نہیں سمجھنا چاہیے۔
بیرونی نگرانی کو مؤثر کیسے سمجھیں؟
کسی کمپنی کا جائزہ کار بلانا ایک آغاز ہے۔ اس انتظام کی افادیت جانچنے کے لیے یہ دیکھنا ہوگا کہ جائزہ کار متعلقہ معلومات دیکھ سکتا ہے یا نہیں، خرابی سامنے لانے کی آزادی کتنی ہے، اور اس کی نشاندہی پر کیا عمل ہوتا ہے۔
مثلاً جانچ کرنے والا صرف تیار شدہ نمونہ دیکھے تو اسے ایک طرح کی معلومات ملیں گی۔ وہ تیاری کا عمل اور ناکام تجربات بھی دیکھ سکے تو اس کے سوالات مختلف ہوں گے۔
اس خبر میں دیکھنے والی اگلی بات محض نئے وعدوں کی تعداد نہیں، بلکہ جائزہ کاروں کی رسائی، شائع شدہ نتائج اور ان کے بعد ہونے والی تبدیلیاں ہیں۔
