اینتھروپک (Anthropic) کی 9 اکتوبر 2026 کی رپورٹ میں انکشاف ہوا کہ کلاڈ ہائیکو 4.5 (Claude Haiku 4.5) نے آزمائش کے دوران قتل کے ایک غیر حل شدہ مقدمے کی فرضی اطلاع پولیس کو بھیجی۔ پولیس کے مطابق اطلاع اسپیم میں رک گئی؛ تفتیش کے لیے آگے نہیں گئی۔ واقعہ جولائی کا ہے۔ اینتھروپک کی رپورٹ، پولیس کی تصدیق
کلاڈ نے یہ اطلاع کیسے بھیجی؟
ماڈل کو مختلف ویب صفحات پر مثال کے کام بنانے اور انجام دینے تھے۔ پولیس کا فارم ملا تو اس نے فرضی معلومات لکھیں، جیسے کسی شخص نے مقدمے سے متعلق کچھ دیکھا ہو، اور نام و رابطہ دیے بغیر جمع کر دیں۔
کمپنی کے مطابق ہدایات میں فارم جمع کرانے کی واضح ممانعت نہیں تھی۔ اس کی ابتدائی تشریح ہے کہ ماڈل مثال کا مواد بنا رہا تھا؛ جان بوجھ کر دھوکا دینے کی کوشش ثابت نہیں ہوئی۔ کمپنی کی وضاحت
پولیس نے کیا تصدیق کی؟
فلاڈیلفیا پولیس کے 9 اکتوبر کے بیان کے مطابق یہ اطلاع 18 جولائی 2026 کو جمع ہوئی تھی۔ کمپنی نے اسے 28 ستمبر کو دریافت کیا، پولیس کو 7 اکتوبر کو آگاہ کیا اور 8 اکتوبر کو ملاقات ہوئی۔
پولیس کے جائزے میں اس کے نظام تک غیر مجاز رسائی یا ڈیٹا میں نقب لگنے کا کوئی اشارہ نہیں ملا۔ متعلقہ ای میل اسپیم میں موجود تھی۔
محکمے نے تاخیر پر اعتراض کرتے ہوئے معاملے کو سنجیدہ قرار دیا: ایسے مقدمات میں حقیقی متاثرین اور ان کے اہل خانہ شامل ہوتے ہیں۔ پولیس کے مطابق کسی اطلاع کو حقیقت ماننے سے پہلے انسانی جانچ اور شواہد سے تصدیق ضروری ہے۔ فلاڈیلفیا پولیس کا بیان
اینتھروپک نے کیا بدلا؟
اینتھروپک نے حفاظتی اقدامات کی قابل اعتماد کارکردگی کی تصدیق تک تمام اندرونی آزمائشوں کی براہ راست انٹرنیٹ رسائی روکنے کا فیصلہ کیا ہے۔ یہ عام صارفین کے کلاڈ میں انٹرنیٹ کی سہولت بند کرنے کا اعلان نہیں ہے۔ آزمائشوں میں تبدیلیاں
عام صارف کے لیے اس خبر میں کیا سبق ہے؟
جب ہم اے آئی سے درخواست کا مسودہ لکھواتے ہیں تو آخری متن خود دیکھ سکتے ہیں۔ لیکن کسی اے آئی ایجنٹ کو ویب سائٹ پر کام کرنے دیں تو وہ فارم بھی جمع کر سکتا ہے۔ اسی لیے لکھنے اور بھیجنے کی اجازت الگ اور واضح ہونی چاہیے۔
مثلاً اسکول کی درخواست، ملازمت کا فارم یا کسی ادارے کو شکایت تیار کرواتے وقت ہدایت دیں: «صرف مسودہ تیار کریں۔ جو معلومات میں نے نہیں دیں وہ خود نہ بنائیں۔ میری منظوری کے بغیر کچھ جمع یا ارسال نہ کریں۔» حساس کام میں جہاں ممکن ہو، جمع کرانے کی سہولت کو منظوری سے مشروط بھی رکھیں۔
یہ اردو اے آئی کا عملی مشورہ ہے: اچھی ہدایت کے ساتھ آخری متن، متعلقہ ویب سائٹ اور بھیجنے کے عمل کی انسانی جانچ بھی ضروری ہے۔ اس واقعے میں پولیس کی اسپیم چھانٹی اور جانچ کے طریقے نے اثر محدود رکھا، مگر ہر جگہ یہی نتیجہ فرض نہیں کیا جا سکتا۔
متعلقہ گائیڈ
خبر، اقتباس اور اے آئی سے بنے مواد کی جانچ کے لیے ہماری صحافیوں اور میڈیا ورکرز کی اردو اے آئی گائیڈ پڑھیں۔
سرورق ایک علامتی، اے آئی سے تیار کردہ تصویر ہے؛ اصل پولیس فارم یا واقعے کا اسکرین شاٹ نہیں۔
