حیدرآباد: حیدرآباد کے پولیس کمشنر وی سی سجنار نے خبردار کیا ہے کہ خودمختار نوعیت کی نئی ٹیکنالوجی ایجنٹک اے آئی تیزی سے ایک سنگین خطرے کی شکل اختیار کر رہی ہے۔ ان کے مطابق اگر انسانوں کا کنٹرول کمزور پڑ گیا تو بینکنگ، صحت، بجلی اور صنعت جیسے اہم شعبوں میں بڑے پیمانے پر نقصان ہو سکتا ہے۔ اسی لیے، انہوں نے واضح کیا کہ انسان کا فیصلہ حتمی ہونا چاہیے۔
پس منظر کے طور پر، انہوں نے سوشل میڈیا پلیٹ فارم ایکس پر اپنے خیالات کا اظہار کیا۔ ان کا کہنا تھا کہ مصنوعی ذہانت اب صرف چیٹ بوٹس یا تحریری ٹولز تک محدود نہیں رہی۔ بلکہ اب یہ خودمختار ڈیجیٹل ایجنٹس میں تبدیل ہو چکی ہے جو خود فیصلے کرتی اور ان پر عمل بھی کرتی ہے۔
مزید وضاحت کرتے ہوئے، انہوں نے بتایا کہ یہ نظام پہلے ہی بینکنگ، صحت، پاور گرڈز اور صنعتی ماحول میں استعمال ہو رہے ہیں۔ نتیجتاً، انسانی نگرانی کم ہوتی جا رہی ہے، جو ایک تشویشناک رجحان ہے۔
خودمختار نظام | Agentic AI
انہوں نے کہا کہ روایتی مصنوعی ذہانت کے برعکس، یہ نظام صرف معلومات فراہم نہیں کرتے۔ بلکہ یہ خود فیصلے کرتے ہیں، جیسے مشتبہ لین دین پر بینک اکاؤنٹ منجمد کرنا یا مریض کے ڈیٹا کی بنیاد پر ادویات کی خوراک میں رد و بدل کرنا۔ اسی طرح، صنعتوں میں یہ مشینوں کی کارکردگی کو خود کنٹرول کر سکتے ہیں۔ مزید یہ کہ، یہ ایجنٹس دوسرے اے آئی سسٹمز کے ساتھ مل کر کام بھی کر سکتے ہیں۔
تاہم، اسی خودمختاری نے ایک بڑا چیلنج پیدا کر دیا ہے۔ ان کے مطابق یہ ایجنٹس چند منٹوں میں ہزاروں فیصلے کر سکتے ہیں۔ اس دوران اگر ایک بھی غلطی ہو جائے تو بڑے پیمانے پر نقصان ہو سکتا ہے۔ مثال کے طور پر، اسٹاک مارکیٹ میں ایک غلط فیصلہ چند سیکنڈز میں کروڑوں کا نقصان کر سکتا ہے۔
ممکنہ خطرات | Agentic AI
اس کے ساتھ ساتھ، انہوں نے سائبر جرائم پیشہ عناصر کے خطرے کی نشاندہی کی جو ان اے آئی ایجنٹس کو ہائی جیک کر سکتے ہیں۔ مزید برآں، انہوں نے غیر ارادی رویے کے امکان پر بھی خبردار کیا، جہاں کوئی نظام اپنے مقصد کو غلط سمجھ کر نقصان دہ راستہ اختیار کر سکتا ہے۔
ان خطرات کو کم کرنے کے لیے، انہوں نے کہا کہ ہر اے آئی ایجنٹ کی واضح ڈیجیٹل شناخت ہونی چاہیے۔ اس کے علاوہ، ہر کارروائی کا مکمل ریکارڈ رکھا جانا ضروری ہے، چاہے وہ فائل تک رسائی ہو، ڈیٹا شیئرنگ ہو یا سسٹم میں تبدیلی۔ اس طرح، اگر کچھ غلط ہو جائے تو ذمہ داری کا تعین فوری ممکن ہو سکے گا۔
آخر میں، انہوں نے سخت گورننس قوانین کی ضرورت پر زور دیا۔ ان قوانین میں یہ طے ہونا چاہیے کہ اے آئی ایجنٹس کو کتنی آزادی دی جائے اور وہ کس ڈیٹا تک رسائی حاصل کر سکتے ہیں۔ انہوں نے خبردار کیا کہ اگر اہم فیصلوں میں انسانی منظوری کو نظر انداز کیا گیا تو بے لگام آٹومیشن فائدے کے بجائے نقصان زیادہ پہنچا سکتی ہے۔
Digital Agents… Danger Bells!
The journey of Artificial Intelligence (AI) has taken a new turn. Until recently limited to ‘chatbots’ that merely answered our questions or wrote text for us, this technology has now evolved to the level of ‘Agentic AI’—systems capable of taking… pic.twitter.com/GxLj0yCe8s
— V.C. Sajjanar, IPS (@SajjanarVC) February 6, 2026
About the Author
