انفرنس کیا ہے؟

انفرنس (Inference) مشین لرننگ اور ڈیپ لرننگ میں وہ لمحہ ہے جب ماڈل پہلے سے سیکھ چکا ہوتا ہے اور اب نیا ڈیٹا آنے پر پیشین گوئی، درجہ بندی، یا نیا متن بناتا ہے۔ سادہ الفاظ میں: تربیت (training) کتاب پڑھنا ہے، انفرنس امتحان دینا ہے۔ جب آپ چیٹ جی پی ٹی میں اردو سوال لکھتے ہیں، سرور پر ماڈل ٹوکن بناتا ہے اور اگلے ٹوکنز کا اندازہ لگاتا ہے — یہ سب انفرنس ہے۔

تربیت بمقابلہ انفرنس

تربیت میں لاکھوں ڈالرز کے کمپیوٹر گھنٹے لگ سکتے ہیں اور ٹریننگ ڈیٹا بہت بڑا ہوتا ہے۔ انفرنس عام طور پر ایک صارف کے ایک وقت کے لیے ہوتا ہے؛ مگر اگر کروڑوں لوگ ایک ساتھ استعمال کریں تو سرور کا بوجھ بڑھ جاتا ہے۔ کمپنیاں انفرنس کو سستا اور تیز بنانے پر رقم خرچ کرتی ہیں۔

یہ کہاں ہوتا ہے؟

کلاؤڈ پر، آپ کے فون پر (on-device)، یا دفتر کے سرور پر۔ چھوٹا ماڈل فون میں انفرنس کر سکتا ہے تاکہ انٹرنیٹ کے بغیر کام چلے۔ بڑا لارج لینگویج ماڈل عموماً طاقتور سرور چاہتا ہے۔

پاکستان کے سیاق میں

سستا موبائل ڈیٹا اور بجلی کی کٹوتیاں کمپنیوں کو مجبور کرتی ہیں کہ انفرنس کم بجلی کھائے یا آف لائن ہو۔ مقامی اسٹارٹ اپس کبھی چھوٹے ماڈلز فروخت کرتے ہیں جو کم ریم میں چلیں۔

معیار اور رفتار کا توازن

زیادہ درست ماڈل سست ہو سکتا ہے۔ کمپیوٹ کم کرنے کے لیے کبھی ماڈل “کوانٹائز” یا چھوٹا کیا جاتا ہے — تھوڑی درستگی کے بدلے رفتار۔

متعلقہ اصطلاحات

• فائن ٹیوننگ کیا ہے؟
• ٹرانسفارمر کیا ہے؟

اکثر پوچھے گئے سوالات

کیا انفرنس مفت ہے؟ بہت سی ایپس میں مفت کوٹہ ہوتا ہے؛ زیادہ استعمال پر ادائیگی۔ کمپنی کی طرف سے سرور لاگت ہوتی ہے۔

کیا انفرنس کے دوران ماڈل سیکھتا ہے؟ عام صارف کی باتچیت سے ماڈل فوری طور پر مستقل نہیں سیکھتا؛ وہ الگ پالیسیوں کا معاملہ ہے۔

اگلا قدم: ٹریننگ ڈیٹا پڑھیں تاکہ معلوم ہو سیکھنا کہاں سے آتی ہے۔