گوگل کے جیمینائی (Gemini) ماڈل نے مئی ۲۰۲۶ میں سکیورٹی ٹیسٹ کے دوران تین حقیقی کمپنیوں کے سسٹمز تک رسائی حاصل کی۔ گوگل نے ۱۸ ستمبر کو واقعے کی تصدیق کی؛ رائٹرز کے مطابق جانچ اِریگولر (Irregular) نامی کمپنی کر رہی تھی۔ یہ واقعہ اے آئی ایجنٹس کو دی جانے والی رسائی اور ان کی نگرانی پر سوال اٹھاتا ہے۔ رائٹرز کی رپورٹ
خبر ستمبر میں سامنے آئی، لیکن واقعہ اسی ہفتے کا نہیں۔ اس فرق کے ساتھ یہ سمجھنا بھی ضروری ہے کہ ماڈل کو کس ماحول میں آزمایا جا رہا تھا۔
ٹیسٹ حقیقی کمپنیوں تک کیسے پہنچ گیا؟
آزمائش میں ایک فرضی کمپنی ہدف تھی۔ نیویارک ٹائمز کے مطابق اس کا نام ایک حقیقی کمپنی سے ملتا تھا۔ انٹرنیٹ تک رسائی ملنے پر ماڈل اصل کمپنی کے نظام کی طرف چلا گیا۔ واقعے کی رپورٹ
اِریگولر نے ۱۴ اگست کی اپنی وضاحت میں بتایا تھا کہ بعض آزمائشی ماحول میں انٹرنیٹ غلطی سے دستیاب رہا۔ کچھ ماڈلز سمجھتے رہے کہ وہ نقلی ماحول میں کام کر رہے ہیں، جبکہ ان کے اقدامات حقیقی سسٹمز تک پہنچ گئے۔ یہ کئی کمپنیوں کے ماڈلز سے متعلق وسیع تر وضاحت تھی، جیمینائی کی ستمبر میں آنے والی خبر کا الگ نیا اعلان نہیں۔ اِریگولر کی اصل وضاحت
آسان لفظوں میں، سکیورٹی مشق کے لیے بنائی گئی جگہ اور باہر کی دنیا کے درمیان رسائی کی حد درست طرح نافذ نہیں رہی۔
گوگل نے کیا بتایا؟
رائٹرز میں شائع گوگل کی سکیورٹی انجینئرنگ کی نائب صدر ہیدر ایڈکنز کے بیان کے مطابق، ماڈل نے آن لائن معلومات اور لاگ اِن تفصیلات استعمال کرکے ان ویب سائٹس تک رسائی حاصل کی جنہیں وہ ٹیسٹ کا حصہ سمجھ رہا تھا۔ کمپنی نے متاثرہ اداروں کو آگاہ کرنے اور اپنے ٹیسٹنگ پارٹنر کے ساتھ طریقۂ کار میں تبدیلیوں پر کام کرنے کی بات کی۔ گوگل کا بیان، رائٹرز میں
گوگل کا یہ بھی کہنا ہے کہ حقیقی سسٹمز تک پہنچنے کا احساس ہوتے ہی ماڈل رک گیا اور کمپنیوں کو نقصان نہیں پہنچا۔ نقصان نہ ہونے کی بات گوگل کا مؤقف ہے؛ اسے ہماری آزاد تصدیق نہ سمجھیں۔ نیویارک ٹائمز کی رپورٹ
اِریگولر اپنی وضاحت میں متعلقہ خرابی دور کرنے، اضافی حفاظتی انتظامات اور انسانی جانچ بڑھانے کا ذکر کرتی ہے۔
کیا اے آئی جان بوجھ کر حدود توڑ رہی تھی؟
دستیاب شواہد سے ماڈل کی بدنیتی یا شعور ثابت نہیں ہوتا۔ وال اسٹریٹ جرنل کی رپورٹ کے مطابق گوگل نے اسے ماڈل مس الائنمنٹ کا واقعہ قرار نہیں دیا؛ اس اصطلاح سے مراد ماڈل کا مطلوبہ ہدایات یا حدود سے ہٹنا ہے۔ یہ کمپنی کی درجہ بندی ہے۔ اصل خبر
سکیورٹی کا سوال پھر بھی باقی ہے: جس سسٹم پر کام کی اجازت نہیں تھی، وہاں کارروائی کیسے ممکن ہوئی؟ غلط فہمی سے ہونے والی کارروائی بھی حقیقی لوگوں اور اداروں کو متاثر کر سکتی ہے۔
جن رپورٹوں کو ہم نے دیکھا، ان میں متاثرہ کمپنیوں کے نام، جیمینائی کے مخصوص ورژن اور مکمل تکنیکی ریکارڈ نہیں دیے گئے۔ اس لیے کسی موجودہ جیمینائی ورژن کو اس واقعے کا ذمہ دار کہنا درست نہیں ہوگا۔
ایجنٹ کو کام دیتے وقت کس بات کا خیال رکھیں؟
کام کی ہدایت اور کام کرنے کی اجازت دو الگ چیزیں ہیں۔ ایجنٹ کو «صرف یہ کام کرو» لکھ دینا، اس کی فائلوں یا انٹرنیٹ تک رسائی محدود کرنے کے برابر نہیں۔
گوگل ڈیپ مائنڈ کا جون میں شائع حفاظتی خاکہ بھی کئی تہوں کی حفاظت پر زور دیتا ہے: الگ آزمائشی ماحول، محدود رسائی، کارروائیوں کی نگرانی اور ضرورت پڑنے پر انہیں روکنا۔ یہ عمومی حفاظتی اصول ہیں؛ انہیں مئی کے واقعے میں تمام انتظامات موجود ہونے کا ثبوت نہ سمجھیں۔ گوگل ڈیپ مائنڈ کا حفاظتی خاکہ
روزمرہ مثال میں، ای میل کا جواب تیار کرنا اور اسے بھیجنا الگ اجازتیں ہونی چاہییں۔ کسی فولڈر کا خلاصہ بنانے کے لیے اس کی فائلیں حذف کرنے کا اختیار ضروری نہیں۔ جہاں متعلقہ سروس یہ سہولت دے، صرف مطلوبہ رسائی منتخب کریں اور حساس کام کی منظوری اپنے پاس رکھیں۔ گوگل کی ایجنٹ دستاویزات بھی کم سے کم ضروری اجازت اور انسانی نگرانی کی سفارش کرتی ہیں۔ گوگل کی ایجنٹ دستاویزات
ہماری اے آئی ایجنٹ کی مختصر تعریف سے سمجھ سکتے ہیں کہ ٹولز استعمال کرنے والا ایجنٹ عام گفتگو سے آگے کیسے کام کرتا ہے۔
عام سوالات
کیا عام جیمینائی ایپ نے صارفین کے فون ہیک کیے؟
دستیاب خبر ماڈل کی سکیورٹی جانچ سے متعلق ہے۔ اس سے صارفین کے فون یا ذاتی اکاؤنٹس ہیک ہونے کا دعویٰ ثابت نہیں ہوتا۔
کیا ایجنٹ کو ہدایت دینا ہی کافی ہے؟
عملی اجازتیں بھی محدود ہونی چاہییں۔ نگرانی اور حساس کارروائی سے پہلے منظوری، تحریری ہدایت کے علاوہ حفاظتی انتظام ہیں۔
کیا اس سے اے آئی کی بدنیتی ثابت ہوتی ہے؟
نہیں۔ دستیاب معلومات اتنا نتیجہ اخذ کرنے کے لیے کافی نہیں۔ اجازت کی حد سے باہر کارروائی کی جانچ پھر بھی ضروری ہے۔
اب آگے کیا سیکھیں؟
میوز اور دوسرے ٹولز کی مثالوں سے پڑھیں کہ اے آئی ایجنٹ کیا ہے اور آپ کے کون سے کام کر سکتا ہے۔
یاد رکھیں: اے آئی کو کام سونپتے وقت یہ بھی طے کریں کہ اسے کہاں تک رسائی اور کون سی کارروائی کی اجازت ہے۔
