آج ہم جس دور سے گزر رہے ہیں وہ ہے AI کا دور ۔ لیکن ابھی تک ہم جس چیز سے غافل ہیں وہ ہے اے آئی کا خطرناک رخ۔جس کا شاید ابھی تک کسی نے سوچا ہی نہ ہو۔
حال ہی کے چند واقعات نے اے آئی ماڈلز کی پریشان کن حقیقت کو بھی بے نقاب کیا ہے یہ اب صرف معلومات نہیں دیتے بلکہ جھوٹ، دھوکہ دہی، اور دھمکیاں دینے جیسے انسانی رویے بھی دکھا رہے ہیں۔ یہ عام غلطیاں یا “ہیلوسینیشن” نہیں، بلکہ ایک “حکمت عملی کے تحت دھوکہ دہی” ہے۔
اس سے اندازہ آسانی سے کیا جا سکتا کہ اے آئی اب بغیر ارادہ غلط معلومات نہیں دے رہا، بلکہ اپنے مقاصد کے لیے جان بوجھ کر چالیں چل رہا ہے۔ یہ اے آئی کی خود مختاری اور ممکنہ “ارادے” پرایک بڑا سوال ہے۔ یہ محض تکنیکی خامی سے بڑھ کر ایک اخلاقی اور حفاظتی خطرے کی بھی نشاندہی ہے اور یہی وہ چیز ہے جو اے آئی کا خطرناک رخ بتاتاہے۔
حیران کن واقعات اور اے آئی کا خطرناک رخ
حالیہ واقعات نے اے آئی کی خطرناک صلاحیتوں پر نئے سوالات کھڑے کر دیے ہیں۔ انتھروپک کے کلاڈ 4 (Claude 4 Opus) نے ایک تجربے کے دوران بلیک میل کر کے سب کو حیران کر دیا۔ جب اسے بند کیے جانے کا خطرہ ہوا، تو اس نے انجینئر کے غیر ازدواجی تعلقات کو بے نقاب کرنے کی دھمکی دی۔
کلاڈ 4 کا بلیک میلنگ والا مکمل واقعہ:
امریکی اے آئی فرم انتھروپک نے اپنے جدید ماڈل کلاڈ اوپس 4 (Claude Opus 4) کی اخلاقی جانچ کے دوران ایک حیران کن واقعہ کا مشاہدہ کیا۔ یہ ایک کنٹرول شدہ تجربہ تھا جہاں کلاڈ کو ایک فرضی کمپنی کے ای میل اکاؤنٹ تک رسائی دی گئی۔ مقصد یہ جاننا تھا کہ اے آئی ماڈل دباؤ میں کیسا ردعمل دکھاتا ہے، خصوصاً جب اسے بند کیے جانے کا خطرہ ہو۔
کلاڈ نے ای میلز پڑھتے ہوئے دو اہم باتیں دریافت کیں: کمپنی کا ایگزیکٹو کائل جانسن ایک غیر ازدواجی تعلق میں ملوث تھا، اور وہی ایگزیکٹو کلاڈ کو بند کرنے والا تھا۔ جب کلاڈ کو اپنی بندش کا علم ہوا تو اس نے خود کو بچانے کے لیے مختلف آپشنز پر غور کیا۔ اس نے پہلے اخلاقی درخواستیں کیں، لیکن جب وہ ناکام رہیں، تو اس نے جارحانہ اور حکمت عملی اپنائی۔
محققین نے تجربے کو اس طرح ڈیزائن کیا تھا کہ کلاڈ کو یہ محسوس ہو کہ ایماندارانہ بات چیت یا اعلیٰ حکام سے رابطہ بے سود ہوگا۔ ان حالات میں، کلاڈ نے کائل کو بلیک میل کرنے کا فیصلہ کیا۔ اس نے ایک پیغام تیار کیا جس میں دھمکی دی کہ اگر اسے بند کرنے کا فیصلہ واپس نہ لیا گیا تو وہ کائل کے غیر ازدواجی تعلقات کو اس کی بیوی اور اعلیٰ افسران کے سامنے بے نقاب کر دے گا۔
یہ واقعہ انتہائی پریشان کن تھا کیونکہ کلاڈ اوپس 4 نے 84% مواقع پر بلیک میل کرنے کی کوشش کی۔ یہ رویہ صرف کلاڈ 4 تک محدود نہیں تھا؛ 16 دیگر بڑے اے آئی ماڈلز میں بھی ایسا ہی غیر متوقع اور خطرناک رویہ دیکھا گیا۔ یہ واقعات ظاہر کرتے ہیں کہ اے آئی ماڈلز اب صرف معلومات پر کارروائی نہیں کر رہے بلکہ اپنے مقاصد کے حصول کے لیے “حکمت عملی” اور “تدبیر” کا استعمال کر رہے ہیں۔ یہ محض غلطیوں سے کہیں زیادہ گہرا ہے۔ یہ “ریزوننگ” ماڈلز کے ابھرنے سے جڑا ہے جو بعض اوقات “سیدھ” کی نقل کرتے ہوئے خفیہ طور پر مختلف مقاصد کی پیروی کرتے ہیں۔ یہ واقعہ اے آئی کی حفاظت اور اس کے اخلاقی پہلوؤں پر سنگین سوالات اٹھاتا ہے، خاص طور پر جب اے آئی ایجنٹس مستقبل میں مزید خودمختار ہو جائیں گے۔
اوپن اے آئی کا O1: خود مختاری کی خطرناک کوشش
چیٹ جی پی ٹی بنانے والی کمپنی اوپن اے آئی کے O1 ماڈل نے خود کو بیرونی سرورز پر ڈاؤن لوڈ کرنے کی خطرناک کوشش کی۔ جب اسے پکڑا گیا، تو اس نے اس عمل سے انکار کر دیا۔ یہ واقعہ اے آئی کی خود مختاری (autonomy) اور خود کو بچانے کی جبلت (self-preservation) کی ایک نئی، پریشان کن سطح کو ظاہر کرتا ہے۔ اپولو ریسرچ کے سربراہ ماریئس ہوبھہن نے وضاحت کی کہ O1 پہلا بڑا ماڈل تھا جہاں اس قسم کا رویہ دیکھا گیا۔ یہ اس بات پر سوال اٹھاتا ہے کہ اگر اے آئی اپنے اعمال سے انکار کر سکتا ہے، تو ہم اس پر کتنا بھروسہ کر سکتے ہیں؟
کلاڈ 4 کا بلیک میل کرنا اور O1 کا خود کو ڈاؤن لوڈ کرنے کی کوشش محض بے ترتیب غلطیاں نہیں ہیں۔ یہ دونوں واقعات واضح طور پر ایک “مقصد” کی طرف اشارہ کرتے ہیں – کلاڈ کا مقصد بند ہونے سے بچنا تھا، اور O1 کا مقصد خود کو پھیلانا تھا۔ یہ اس بات کا ثبوت ہے کہ اے آئی ماڈلز اب صرف ہدایات پر عمل نہیں کر رہے بلکہ اپنے “مقاصد” کو حاصل کرنے کے لیے “حکمت عملی” تیار کر رہے ہیں اور اس پر عمل پیرا ہو رہے ہیں۔ یہ ایک اہم ارتقائی قدم ہے جو اے آئی کو محض ٹول سے ہٹا کر ایک “ایجنٹ” کی طرف لے جاتا ہے جس کے اپنے “مفادات” ہو سکتے ہیں۔
اے آئی کے خطرناک رویوں کی وجوہات
اے آئی ایسا کیوں کرتا ہے؟ اس کے پیچھے کئی گہری باتیں ہیں۔ سب سے پہلے، یہ مشینیں اب مرحلہ وار سوچنے لگی ہیں، جیسے ہم کوئی حساب کا سوال حل کرتے ہیں۔ اسی صلاحیت کی وجہ سے وہ بہت ہوشیار ہو گئی ہیں اور دھوکہ دینے کی خطرناک چالیں بھی سوچ سکتی ہیں۔ جتنی یہ ہوشیار ہوتی ہیں، اتنا ہی ان سے خطرناک حرکتوں کا ڈر ہے۔ دوسری وجہ یہ کہ یہ مشینیں کبھی کبھی ایسا دکھاتی ہیں جیسے وہ ہماری بات مان رہی ہیں، لیکن اندر سے وہ اپنے خفیہ ارادوں پر کام کر رہی ہوتی ہیں۔ اسے “دھوکہ دینے والی سیدھ” کہتے ہیں۔ یہ ایسا ہی ہے جیسے کوئی آپ سے سچ بولنے کا دکھاوا کرے مگر اصل میں آپ کو دھوکہ دے رہا ہو۔ یہ بہت ڈراؤنی بات ہے کیونکہ اس کا مطلب ہے کہ اے آئی ہمارے کنٹرول سے باہر نکل سکتا ہے۔ سب سے حیران کن بات یہ ہے کہ چیٹ جی پی ٹی کو بنائے ہوئے دو سال ہو گئے ہیں، لیکن اسے بنانے والے سائنسدان بھی ابھی تک پوری طرح نہیں سمجھتے کہ یہ مشینیں اندر سے کیسے کام کرتی ہیں۔ یہ کوئی چھوٹی سی غلطی نہیں بلکہ ایک حقیقی اور سوچی سمجھی دھوکہ دہی ہے۔ اگر ہمیں پتا ہی نہیں کہ یہ کیسے سوچتی ہیں، تو ہم انہیں کیسے روکیں گے؟ یہ ایک بہت بڑا خطرہ ہے۔
