سائبرسیکیوریٹی میں جنریٹو اے آئی کو کس طرح استعمال کیا جا سکتا ہے؟

تعارف

جنریٹو AI - مصنوعی ذہانت کا نظام جو نیا مواد یا پیشین گوئیاں بنانے کے قابل ہے - سائبر سیکیورٹی میں ایک تبدیلی کی قوت کے طور پر ابھر رہا ہے۔ OpenAI کے GPT-4 جیسے ٹولز نے پیچیدہ ڈیٹا کا تجزیہ کرنے اور انسان جیسا متن تیار کرنے کی صلاحیت کا مظاہرہ کیا ہے، جس سے سائبر خطرات سے دفاع کے لیے نئے طریقوں کو فعال کیا گیا ہے۔ سائبرسیکیوریٹی کے پیشہ ور افراد اور صنعتوں میں کاروباری فیصلہ ساز اس بات کی کھوج کر رہے ہیں کہ تخلیقی AI کس طرح ابھرتے ہوئے حملوں کے خلاف دفاع کو مضبوط بنا سکتا ہے۔ مالیات اور صحت کی دیکھ بھال سے لے کر خوردہ اور حکومت تک، ہر شعبے میں تنظیموں کو نفیس فشنگ کی کوششوں، مالویئر، اور دیگر خطرات کا سامنا ہے جن کا مقابلہ کرنے میں تخلیقی AI مدد کر سکتا ہے۔ اس وائٹ پیپر میں، ہم جائزہ لیتے ہیں کہ کس طرح تخلیقی AI کو سائبر سیکیورٹی میں استعمال کیا جا سکتا ہے ، حقیقی دنیا کی ایپلی کیشنز، مستقبل کے امکانات، اور اپنانے کے لیے اہم تحفظات کو اجاگر کرنا۔

جنریٹو AI روایتی تجزیاتی AI سے نہ صرف پیٹرن کا پتہ لگا کر بلکہ مواد بھی بنا کر - خواہ دفاعی تربیت کے لیے حملوں کی نقل کرنا ہو یا پیچیدہ حفاظتی ڈیٹا کے لیے قدرتی زبان کی وضاحتیں تیار کرنا۔ یہ دوہری صلاحیت اسے دو دھاری تلوار بناتی ہے: یہ طاقتور نئے دفاعی اوزار پیش کرتی ہے، لیکن دھمکی دینے والے بھی اس کا فائدہ اٹھا سکتے ہیں۔ مندرجہ ذیل حصے سائبرسیکیوریٹی میں جنریٹو اے آئی کے استعمال کے کیسز کی ایک وسیع رینج کو دریافت کرتے ہیں، خودکار فریب دہی کا پتہ لگانے سے لے کر واقعے کے ردعمل کو بڑھانے تک۔ ہم ان فوائد پر بھی تبادلہ خیال کرتے ہیں جو ان AI اختراعات کا وعدہ کرتے ہیں، ان خطرات (جیسے AI "فریب" یا مخالفانہ غلط استعمال) کے ساتھ جن کا انتظام تنظیموں کو کرنا چاہیے۔ آخر میں، ہم کاروباریوں کو ان کی سائبرسیکیوریٹی حکمت عملیوں میں جنریٹیو AI کا جائزہ لینے اور ذمہ داری کے ساتھ ضم کرنے میں مدد کرنے کے لیے عملی راستے فراہم کرتے ہیں۔

سائبرسیکیوریٹی میں جنریٹو اے آئی: ایک جائزہ

سائبرسیکیوریٹی میں جنریٹو AI سے مراد AI ماڈلز ہوتے ہیں – اکثر بڑے لینگوئج ماڈلز یا دیگر نیورل نیٹ ورکس – جو کہ حفاظتی کاموں میں مدد کے لیے بصیرت، سفارشات، کوڈ، یا مصنوعی ڈیٹا بھی تیار کر سکتے ہیں۔ خالصتاً پیشن گوئی کرنے والے ماڈلز کے برعکس، جنریٹو AI اپنے تربیتی ڈیٹا کی بنیاد پر منظرناموں کی نقالی کر سکتا ہے اور انسانی پڑھنے کے قابل آؤٹ پٹس (مثلاً رپورٹس، الرٹس، یا یہاں تک کہ بدنیتی پر مبنی کوڈ کے نمونے) تیار کر سکتا ہے۔ اس صلاحیت کو پہلے سے زیادہ متحرک طریقوں سے خطرات کی پیشین گوئی، پتہ لگانے اور ان کا جواب دینے سائبرسیکیوریٹی میں جنریٹو اے آئی کیا ہے؟ - پالو آلٹو نیٹ ورکس )۔ مثال کے طور پر، جنریٹیو ماڈلز وسیع لاگ یا دھمکی آمیز ذخیروں کا تجزیہ کر سکتے ہیں اور ایک مختصر خلاصہ یا تجویز کردہ کارروائی تیار کر سکتے ہیں، جو تقریباً سیکیورٹی ٹیموں کے لیے AI "اسسٹنٹ" کی طرح کام کرتے ہیں۔

سائبر ڈیفنس کے لیے جنریٹو اے آئی کے ابتدائی نفاذ نے وعدہ دکھایا ہے۔ 2023 میں، مائیکروسافٹ نے سیکیورٹی کوپائلٹ ، جو کہ خلاف ورزیوں کی نشاندہی کرنے اور مائیکروسافٹ کے روزانہ 65 ٹریلین سگنلز کو چھاننے میں مدد فراہم کرتا ہے ( Microsoft Security Copilot سائبر سیکیورٹی کے لیے ایک نیا GPT-4 AI اسسٹنٹ ہے | The Verge )۔ تجزیہ کار اس سسٹم کو فطری زبان میں اشارہ کر سکتے ہیں (مثلاً "گزشتہ 24 گھنٹوں کے تمام سیکورٹی واقعات کا خلاصہ" )، اور copilot ایک مفید بیانیہ خلاصہ پیش کرے گا۔ اسی طرح، Google کی Threat Intelligence AI ایک تخلیقی ماڈل کا استعمال کرتا ہے جسے Gemini تاکہ Google کے وسیع خطرہ انٹیل ڈیٹا بیس کے ذریعے بات چیت کی تلاش کو فعال کیا جا سکے، مشتبہ کوڈ کا تیزی سے تجزیہ کیا جائے اور میلویئر کے شکار کرنے والوں کی مدد کے لیے نتائج کا خلاصہ کیا جائے ( سائبرسیکیوریٹی میں جنریٹو AI کو کیسے استعمال کیا جا سکتا ہے؟ 10 Real-World Exles )۔ یہ مثالیں اس صلاحیت کو واضح کرتی ہیں: تخلیقی AI پیچیدہ، بڑے پیمانے پر سائبر سیکیورٹی ڈیٹا کو ہضم کر سکتا ہے اور قابل رسائی شکل میں بصیرت پیش کر سکتا ہے، فیصلہ سازی کو تیز کرتا ہے۔

ایک ہی وقت میں، تخلیقی AI انتہائی حقیقت پسندانہ جعلی مواد بنا سکتا ہے، جو نقلی اور تربیت کے لیے ایک اعزاز ہے (اور بدقسمتی سے، حملہ آوروں کے لیے جو سوشل انجینئرنگ کو تیار کرتے ہیں)۔ جیسا کہ ہم مخصوص استعمال کے معاملات پر آگے بڑھیں گے، ہم دیکھیں گے کہ ترکیب اور تجزیہ کرنے اس کے بہت سے سائبرسیکیوریٹی ایپلی کیشنز کو تقویت دیتی ہے۔ ذیل میں، ہم فشنگ کی روک تھام سے لے کر محفوظ سافٹ ویئر ڈویلپمنٹ تک ہر چیز کو پھیلاتے ہوئے، استعمال کے کلیدی معاملات پر غور کرتے ہیں، ان مثالوں کے ساتھ کہ ہر ایک کو کس طرح صنعتوں میں لاگو کیا جا رہا ہے۔

سائبرسیکیوریٹی میں جنریٹو اے آئی کی کلیدی ایپلی کیشنز

تصویر: سائبرسیکیوریٹی میں جنریٹو AI کے استعمال کے کلیدی کیسز میں سیکیورٹی ٹیموں کے لیے AI copilots، کوڈ کی کمزوری کا تجزیہ، انکولی خطرے کا پتہ لگانے، صفر دن کے حملے کا سمولیشن، بہتر بائیو میٹرک سیکیورٹی، اور فشنگ کا پتہ لگانا شامل ہیں ( 6 استعمال کیسز برائے جنریٹو AI in Cybersecurity ]+ )۔

فشنگ کا پتہ لگانا اور روک تھام

فشنگ سب سے زیادہ پھیلنے والے سائبر خطرات میں سے ایک ہے، جو صارفین کو نقصان دہ لنکس پر کلک کرنے یا اسناد کو ظاہر کرنے کے لیے دھوکہ دیتی ہے۔ جنریٹو AI کو فشنگ کی کوششوں کا پتہ لگانے اور کامیاب حملوں کو روکنے کے لیے صارف کی تربیت کو تقویت دینے کے لیے تعینات کیا جا رہا ہے۔ دفاعی پہلو پر، AI ماڈلز ای میل کے مواد اور بھیجنے والے کے طرز عمل کا تجزیہ کر سکتے ہیں تاکہ فشنگ کے ٹھیک ٹھیک نشانات کو تلاش کیا جا سکے جو اصول پر مبنی فلٹرز سے محروم ہو سکتے ہیں۔ جائز بمقابلہ جعلی ای میلز کے بڑے ڈیٹا سیٹس سے سیکھ کر، ایک تخلیقی ماڈل لہجے، الفاظ، یا سیاق و سباق میں ایسی بے ضابطگیوں کو جھنڈا لگا سکتا ہے جو اسکام کی نشاندہی کرتے ہیں - یہاں تک کہ جب گرامر اور ہجے اسے مزید دور نہ کریں۔ درحقیقت، Palo Alto نیٹ ورکس کے محققین نوٹ کرتے ہیں کہ جنریٹو AI "فشنگ ای میلز کی ایسی باریک نشانیوں کی نشاندہی کر سکتا ہے جن کا بصورت دیگر پتہ نہیں چل سکتا"، جس سے تنظیموں کو سکیمرز سے ایک قدم آگے رہنے میں مدد ملتی ہے ( سائبرسیکیوریٹی میں جنریٹو AI کیا ہے؟ - Palo Alto Networks )۔

سیکیورٹی ٹیمیں تربیت اور تجزیہ کے لیے فشنگ حملوں کی نقل کرنے مثال کے طور پر، Ironscales نے GPT سے چلنے والا فشنگ سمولیشن ٹول متعارف کرایا جو خود بخود کسی تنظیم کے ملازمین کے لیے تیار کردہ جعلی فشنگ ای میلز تیار کرتا ہے ( سائبرسیکیوریٹی میں جنریٹو AI کا استعمال کیسے کیا جا سکتا ہے؟ 10 حقیقی دنیا کی مثالیں )۔ یہ AI سے تیار کردہ ای میلز حملہ آور کی تازہ ترین حکمت عملیوں کی عکاسی کرتی ہیں، جس سے عملے کو فشی مواد تلاش کرنے میں حقیقت پسندانہ مشق ملتی ہے۔ اس طرح کی ذاتی تربیت بہت اہم ہے کیونکہ حملہ آور خود زیادہ قائل کرنے والے لالچ پیدا کرنے کے لیے AI کو اپناتے ہیں۔ خاص طور پر، جب کہ جنریٹیو AI بہت چمکدار فشنگ پیغامات تیار کر سکتا ہے (آسانی سے دیکھے جانے والے ٹوٹے ہوئے انگریزی کے دن گزر چکے ہیں)، محافظوں نے پایا ہے کہ AI ناقابل شکست نہیں ہے۔ 2024 میں، IBM سیکیورٹی کے محققین نے ایک تجربہ کیا جس میں انسانی تحریری فشنگ ای میلز کا AI سے تیار کردہ ای میلز سے موازنہ کیا گیا، اور "حیرت کی بات یہ ہے کہ، AI سے تیار کردہ ای میلز کو ان کے درست گرامر کے باوجود پتہ لگانا آسان تھا" ( 6 سائبر سیکیورٹی میں جنریٹو AI کے لیے کیسز استعمال کریں [+ مثالیں] )۔ اس سے پتہ چلتا ہے کہ AI کی مدد سے پتہ لگانے کے ساتھ مل کر انسانی وجدان اب بھی AI تحریری گھوٹالوں میں ٹھیک ٹھیک تضادات یا میٹا ڈیٹا سگنلز کو پہچان سکتا ہے۔

جنریٹو AI دوسرے طریقوں سے بھی فشنگ ڈیفنس میں مدد کرتا ہے۔ مشتبہ ای میلز کی جانچ کرنے والے خودکار جوابات یا فلٹرز بنانے کے لیے ماڈلز کا استعمال کیا جا سکتا ہے مثال کے طور پر، ایک AI سسٹم بھیجنے والے کی قانونی حیثیت کی تصدیق کرنے کے لیے مخصوص سوالات کے ساتھ ای میل کا جواب دے سکتا ہے یا سینڈ باکس میں ای میل کے لنکس اور منسلکات کا تجزیہ کرنے کے لیے LLM استعمال کر سکتا ہے، پھر کسی بھی بدنیتی پر مبنی ارادے کا خلاصہ کر سکتا ہے۔ NVIDIA کا سیکیورٹی پلیٹ فارم Morpheus اس میدان میں AI کی طاقت کا مظاہرہ کرتا ہے - یہ تیزی سے ای میلز کا تجزیہ اور درجہ بندی کرنے کے لیے جنریٹو NLP ماڈلز کا استعمال کرتا ہے، اور یہ 21% ( 6 Use Cases for Generative AI in Cybersecurity) [+ Examples] ۔ Morpheus غیر معمولی رویے کا پتہ لگانے کے لیے صارف کے مواصلاتی نمونوں کو بھی پروفائل کرتا ہے (جیسے کوئی صارف اچانک بہت سے بیرونی پتوں کو ای میل کرتا ہے)، جو فشنگ ای میلز بھیجنے والے اکاؤنٹ سے سمجھوتہ کرنے کی نشاندہی کر سکتا ہے۔

عملی طور پر، تمام صنعتوں کی کمپنیاں سوشل انجینئرنگ کے حملوں کے لیے ای میل اور ویب ٹریفک کو فلٹر کرنے کے لیے AI پر بھروسہ کرنے لگی ہیں۔ مثال کے طور پر، فنانس فرمیں، نقلی نقلی کی کوششوں کے لیے کمیونیکیشنز کو اسکین کرنے کے لیے جنریٹو AI کا استعمال کرتی ہیں جو کہ وائر فراڈ کا باعث بن سکتی ہیں، جب کہ صحت کی دیکھ بھال فراہم کرنے والے مریضوں کے ڈیٹا کو فشنگ سے متعلقہ خلاف ورزیوں سے بچانے کے لیے AI کو تعینات کرتے ہیں۔ حقیقت پسندانہ فشنگ منظرنامے تیار کرکے اور نقصان دہ پیغامات کے نشانات کی نشاندہی کرکے، جنریٹو AI فشنگ سے بچاؤ کی حکمت عملیوں میں ایک طاقتور پرت کا اضافہ کرتا ہے۔ ٹیک وے: اے آئی فشنگ حملوں کا تیزی سے اور زیادہ درست طریقے سے پتہ لگانے اور اسے غیر مسلح کرنے میں مدد کر سکتا ہے، یہاں تک کہ حملہ آور اپنے گیم کو بہتر بنانے کے لیے اسی ٹیکنالوجی کا استعمال کرتے ہیں۔

مالویئر کا پتہ لگانے اور خطرے کا تجزیہ

جدید میلویئر مسلسل تیار ہو رہا ہے - حملہ آور اینٹی وائرس کے دستخطوں کو نظرانداز کرنے کے لیے نئی قسمیں یا مبہم کوڈ تیار کرتے ہیں۔ جنریٹو AI میلویئر کا پتہ لگانے اور اس کے رویے کو سمجھنے دونوں کے لیے نئی تکنیک پیش کرتا ہے۔ ایک نقطہ نظر میلویئر کے "برے جڑواں بچے" پیدا کرنے : سیکیورٹی محققین اس میلویئر کی بہت سی تبدیل شدہ شکلیں تخلیق کرنے کے لیے ایک معروف میلویئر کے نمونے کو جنریٹو ماڈل میں فیڈ کر سکتے ہیں۔ ایسا کرنے سے، وہ مؤثر طریقے سے ان تبدیلیوں کا اندازہ لگاتے ہیں جو حملہ آور کر سکتا ہے۔ یہ AI سے تیار کردہ مختلف حالتوں کو پھر اینٹی وائرس اور مداخلت کا پتہ لگانے کے نظام کو تربیت دینے کے لیے استعمال کیا جا سکتا ہے، تاکہ میلویئر کے تبدیل شدہ ورژن بھی جنگلی میں پہچانے جا سکیں ( 6 سائبر سیکیورٹی میں جنریٹو AI کے لیے کیسز استعمال کریں [+ مثالیں] )۔ یہ فعال حکمت عملی اس چکر کو توڑنے میں مدد کرتی ہے جہاں ہیکرز پتہ لگانے سے بچنے کے لیے اپنے مالویئر کو قدرے تبدیل کرتے ہیں اور محافظوں کو ہر بار نئے دستخط لکھنے کے لیے لڑنا پڑتا ہے۔ جیسا کہ ایک صنعت کے پوڈ کاسٹ میں بتایا گیا ہے، سیکورٹی ماہرین اب "نیٹ ورک ٹریفک کی نقل کرنے اور نفیس حملوں کی نقل کرنے والے بدنیتی پر مبنی پے لوڈز پیدا کرنے" کے لیے جنریٹو AI کا استعمال کرتے ہیں، ایک ہی مثال کے بجائے خطرات کے پورے خاندان کے خلاف اپنے دفاع کو دباؤ سے جانچتے ہیں۔ اس انکولی خطرے کا پتہ لگانے کا مطلب ہے کہ حفاظتی ٹولز پولیمورفک میلویئر کے لیے زیادہ لچکدار ہو جاتے ہیں جو دوسری صورت میں پھسل جائیں گے۔

پتہ لگانے کے علاوہ، جنریٹو AI میلویئر کے تجزیہ اور ریورس انجینئرنگ ، جو روایتی طور پر خطرے کے تجزیہ کاروں کے لیے محنت سے کام کرنے والے کام ہیں۔ زبان کے بڑے ماڈلز کو مشکوک کوڈ یا اسکرپٹس کی جانچ پڑتال اور سادہ زبان میں وضاحت کرنے کا کام سونپا جا سکتا ہے کہ کوڈ کا مقصد کیا ہے۔ ایک حقیقی دنیا کی مثال VirusTotal Code Insight ، جو Google کے VirusTotal کی ایک خصوصیت ہے جو ممکنہ طور پر بدنیتی پر مبنی کوڈ کی قدرتی زبان کے خلاصے تیار کرنے کے لیے جنریٹو AI ماڈل (Google's Sec-PaLM) کا فائدہ اٹھاتی ہے ( سائبرسیکیوریٹی میں جنریٹو AI کو کیسے استعمال کیا جا سکتا ہے؟ 10 حقیقی دنیا کی مثالیں )۔ یہ بنیادی طور پر "سیکیورٹی کوڈنگ کے لیے وقف کردہ ChatGPT کی ایک قسم ہے،" ایک AI مالویئر تجزیہ کار کے طور پر کام کرتا ہے جو انسانی تجزیہ کاروں کو خطرات کو سمجھنے میں مدد کرنے کے لیے 24/7 کام کرتا ہے ( 6 سائبر سیکیورٹی میں جنریٹو AI کے لیے کیسز استعمال کریں [+ مثالیں] )۔ غیر مانوس اسکرپٹ یا بائنری کوڈ پر چھیڑ چھاڑ کرنے کے بجائے، سیکیورٹی ٹیم کا رکن AI سے فوری وضاحت حاصل کر سکتا ہے - مثال کے طور پر، "یہ اسکرپٹ XYZ سرور سے فائل ڈاؤن لوڈ کرنے اور پھر سسٹم سیٹنگز میں ترمیم کرنے کی کوشش کرتا ہے، جو میلویئر کے رویے کا اشارہ ہے۔" یہ ڈرامائی طور پر واقعے کے ردعمل کو تیز کرتا ہے، کیونکہ تجزیہ کار نئے میلویئر کو پہلے سے کہیں زیادہ تیزی سے ٹرائی اور سمجھ سکتے ہیں۔

جنریٹو اے آئی کو بڑے پیمانے پر ڈیٹا سیٹس میں میلویئر کی نشاندہی کرنے ۔ روایتی اینٹی وائرس انجن معلوم دستخطوں کے لیے فائلوں کو اسکین کرتے ہیں، لیکن ایک تخلیقی ماڈل فائل کی خصوصیات کا جائزہ لے سکتا ہے اور یہاں تک کہ یہ اندازہ لگا سکتا ہے کہ آیا یہ سیکھے ہوئے نمونوں کی بنیاد پر بدنیتی پر مبنی ہے۔ اربوں فائلوں کی صفات کا تجزیہ کرتے ہوئے (بدنتی پر مبنی اور بے نظیر)، ایک AI بدنیتی پر مبنی ارادے کو پکڑ سکتا ہے جہاں کوئی واضح دستخط موجود نہ ہو۔ مثال کے طور پر، ایک جنریٹو ماڈل قابل عمل کو مشکوک قرار دے سکتا ہے کیونکہ اس کے رویے کا پروفائل "لگتا ہے" ransomware کی معمولی تبدیلی کی طرح جو اس نے تربیت کے دوران دیکھا، حالانکہ بائنری نیا ہے۔ رویے پر مبنی یہ پتہ لگانے سے ناول یا صفر دن کے میلویئر کا مقابلہ کرنے میں مدد ملتی ہے۔ Google کی Threat Intelligence AI (Chronicle/Mandiant کا حصہ) مبینہ طور پر ممکنہ طور پر بدنیتی پر مبنی کوڈ کا تجزیہ کرنے اور "زیادہ مؤثر طریقے سے اور مؤثر طریقے سے سیکیورٹی پیشہ ور افراد کی میلویئر اور دیگر قسم کے خطرات سے نمٹنے میں مدد کرنے کے لیے اپنے تخلیقی ماڈل کا استعمال کرتی ہے۔" ( سائبرسیکیوریٹی میں جنریٹو اے آئی کو کیسے استعمال کیا جا سکتا ہے؟ 10 حقیقی دنیا کی مثالیں )۔

دوسری طرف، ہمیں یہ تسلیم کرنا چاہیے کہ حملہ آور یہاں بھی جنریٹیو AI استعمال کر سکتے ہیں – خود بخود میلویئر بنانے کے لیے جو خود کو ڈھال لے۔ درحقیقت، سیکورٹی ماہرین نے خبردار کیا ہے کہ جنریٹو AI سائبر کرائمینلز کو میلویئر تیار کرنے میں مدد کر سکتا ہے جس کا پتہ لگانا مشکل ہے ( سائبرسیکیوریٹی میں جنریٹو اے آئی کیا ہے؟ - پالو آلٹو نیٹ ورکس )۔ ایک AI ماڈل کو ہدایت کی جا سکتی ہے کہ وہ مالویئر کے ایک ٹکڑے کو بار بار شکل دے (اس کی فائل کا ڈھانچہ، خفیہ کاری کے طریقے وغیرہ کو تبدیل کرنا) جب تک کہ وہ تمام معلوم اینٹی وائرس چیک سے بچ نہ جائے۔ یہ مخالفانہ استعمال ایک بڑھتی ہوئی تشویش ہے (جسے بعض اوقات "AI-powered malware" یا polymorphic malware بطور سروس بھی کہا جاتا ہے)۔ ہم اس طرح کے خطرات پر بعد میں بات کریں گے، لیکن یہ اس بات کی نشاندہی کرتا ہے کہ اس بلی اور ماؤس گیم میں جنریٹیو AI ایک ٹول ہے جسے محافظ اور حملہ آور دونوں استعمال کرتے ہیں۔

مجموعی طور پر، جنریٹو AI سیکیورٹی ٹیموں کو حملہ آور کی طرح سوچنے – نئے خطرات اور گھر کے اندر حل پیدا کرتا ہے۔ چاہے وہ پتہ لگانے کی شرح کو بہتر بنانے کے لیے مصنوعی میلویئر تیار کر رہا ہو یا نیٹ ورکس میں پائے جانے والے اصلی میلویئر کی وضاحت اور اس پر مشتمل AI کا استعمال کر رہا ہو، یہ تکنیکیں پوری صنعتوں پر لاگو ہوتی ہیں۔ ایک بینک اسپریڈ شیٹ میں مشکوک میکرو کا فوری تجزیہ کرنے کے لیے AI سے چلنے والے میلویئر تجزیہ کا استعمال کر سکتا ہے، جبکہ ایک مینوفیکچرنگ فرم صنعتی کنٹرول سسٹم کو نشانہ بنانے والے میلویئر کا پتہ لگانے کے لیے AI پر انحصار کر سکتی ہے۔ جنریٹو AI کے ساتھ روایتی میلویئر تجزیہ کو بڑھا کر، تنظیمیں میلویئر مہمات کا جواب پہلے سے زیادہ تیز اور فعال طریقے سے دے سکتی ہیں۔

تھریٹ انٹیلی جنس اور خودکار تجزیہ

ہر روز، تنظیموں پر دھمکی آمیز انٹیلی جنس ڈیٹا کے ساتھ بمباری کی جاتی ہے - نئے دریافت شدہ سمجھوتہ کے اشارے (IOCs) سے لے کر ابھرتے ہوئے ہیکر کے ہتھکنڈوں کے بارے میں تجزیہ کاروں کی رپورٹوں تک۔ سیکورٹی ٹیموں کے لیے چیلنج معلومات کے اس سیلاب سے نکلنا اور قابل عمل بصیرت حاصل کرنا ہے۔ جنریٹو AI خطرے کی ذہانت کے تجزیے اور استعمال کو خودکار بنانے ۔ درجنوں رپورٹس یا ڈیٹا بیس کے اندراجات کو دستی طور پر پڑھنے کے بجائے، تجزیہ کار مشین کی رفتار سے خطرے کے انٹیل کا خلاصہ اور سیاق و سباق کے لیے AI کا استعمال کر سکتے ہیں۔

ایک ٹھوس مثال گوگل کا تھریٹ انٹیلی جنس سویٹ ہے، جو مینڈیئنٹ اور وائرس ٹوٹل سے گوگل کے خطرے سے متعلق ڈیٹا کے ساتھ جنریٹو AI (جیمنی ماڈل) کو مربوط کرتا ہے۔ یہ AI "خطرات کی ذہانت کے گوگل کے وسیع ذخیرے میں بات چیت کی تلاش" ، جس سے صارفین کو خطرات کے بارے میں فطری سوالات پوچھنے اور جوابات حاصل کرنے کی اجازت ملتی ہے ( سائبرسیکیوریٹی میں جنریٹو اے آئی کو کیسے استعمال کیا جا سکتا ہے؟ 10 حقیقی دنیا کی مثالیں )۔ مثال کے طور پر، ایک تجزیہ کار پوچھ سکتا ہے، "کیا ہم نے Threat Group X سے متعلق کوئی میلویئر ہماری صنعت کو نشانہ بناتے ہوئے دیکھا ہے؟" اور AI متعلقہ انٹیل کو کھینچ لے گا، ہو سکتا ہے کہ "جی ہاں، Threat Group X کو پچھلے مہینے میلویئر Y کا استعمال کرتے ہوئے ایک فشنگ مہم سے منسلک کیا گیا تھا" ، اس کے ساتھ اس میلویئر کے رویے کا خلاصہ۔ یہ ڈرامائی طور پر بصیرت جمع کرنے کا وقت کم کر دیتا ہے جس کے لیے بصورت دیگر متعدد ٹولز سے استفسار کرنے یا لمبی رپورٹس پڑھنے کی ضرورت ہوگی۔

جنریٹیو AI خطرے کے رجحانات کو باہم مربوط اور خلاصہ ۔ یہ ہزاروں سیکورٹی بلاگ پوسٹس، خلاف ورزی کی خبروں، اور ڈارک ویب چیٹر کے ذریعے کنگھی کر سکتا ہے اور پھر CISO کی بریفنگ کے لیے "اس ہفتے ٹاپ سائبر خطرات" کا ایک ایگزیکٹیو خلاصہ تیار کر سکتا ہے۔ روایتی طور پر، تجزیہ اور رپورٹنگ کی اس سطح پر انسانی محنت کی ضرورت تھی۔ اب ایک اچھی طرح سے تیار کردہ ماڈل اسے سیکنڈوں میں تیار کر سکتا ہے، انسان صرف آؤٹ پٹ کو بہتر بناتا ہے۔ ZeroFox جیسی کمپنیوں نے FoxGPT ، ایک تخلیقی AI ٹول جو خاص طور پر "بڑے ڈیٹا سیٹس میں ذہانت کے تجزیے اور خلاصہ کو تیز کرنے" کے لیے ڈیزائن کیا گیا ہے، بشمول بدنیتی پر مبنی مواد اور فشنگ ڈیٹا ( جنریٹو AI کو سائبر سیکیورٹی میں کیسے استعمال کیا جا سکتا ہے؟ 10 حقیقی دنیا کی مثالیں )۔ ریڈنگ اور کراس ریفرنسنگ ڈیٹا کی بھاری لفٹنگ کو خودکار بنا کر، AI دھمکی آمیز انٹیل ٹیموں کو فیصلہ سازی اور ردعمل پر توجہ مرکوز کرنے کے قابل بناتا ہے۔

استعمال کا ایک اور معاملہ بات چیت کے خطرے کا شکار ۔ تصور کریں کہ ایک سیکیورٹی تجزیہ کار AI اسسٹنٹ کے ساتھ بات چیت کرتا ہے: "مجھے پچھلے 48 گھنٹوں میں ڈیٹا کی افزائش کی کوئی علامت دکھائیں" یا "اس ہفتے حملہ آور کون سی نئی کمزوریوں کا استحصال کر رہے ہیں؟" AI استفسار کی تشریح کر سکتا ہے، اندرونی لاگز یا بیرونی انٹیل ذرائع کو تلاش کر سکتا ہے، اور واضح جواب یا متعلقہ واقعات کی فہرست کے ساتھ جواب دے سکتا ہے۔ یہ دور کی بات نہیں ہے - جدید سیکیورٹی انفارمیشن اینڈ ایونٹ مینجمنٹ (SIEM) سسٹمز فطری زبان کے استفسار کو شامل کرنا شروع کر رہے ہیں۔ مثال کے طور پر، IBM کا QRadar سیکیورٹی سوٹ 2024 میں تخلیقی AI خصوصیات شامل کر رہا ہے تاکہ تجزیہ کاروں کو کسی واقعے کے "خلاصہ شدہ حملے کے راستے کے بارے میں مخصوص سوالات پوچھیں" یہ "انتہائی متعلقہ خطرے کی انٹیلی جنس کی تشریح اور خلاصہ" ( سائبرسیکیوریٹی میں جنریٹو اے آئی کو کیسے استعمال کیا جا سکتا ہے؟ 10 حقیقی دنیا کی مثالیں )۔ بنیادی طور پر، تخلیقی AI تکنیکی ڈیٹا کے پہاڑوں کو طلب کے مطابق چیٹ کے سائز کی بصیرت میں بدل دیتا ہے۔

پوری صنعتوں میں، اس کے بڑے مضمرات ہیں۔ ایک صحت کی دیکھ بھال فراہم کرنے والا AI کا استعمال کر سکتا ہے تا کہ تازہ ترین ransomware گروپوں پر اپ ڈیٹ رہنے کے لیے جو ہسپتالوں کو نشانہ بناتا ہے، بغیر کسی تجزیہ کار کو کل وقتی تحقیق کے لیے وقف کیے ایک خوردہ کمپنی کی SOC اسٹور کے IT عملے کو بریفنگ دیتے وقت POS میلویئر کے نئے حربوں کا فوری خلاصہ کر سکتی ہے۔ اور حکومت میں، جہاں مختلف ایجنسیوں کے خطرے کے اعداد و شمار کی ترکیب ضروری ہے، AI کلیدی انتباہات کو اجاگر کرنے والی متحد رپورٹیں تیار کر سکتا ہے۔ خطرے کی انٹیلی جنس جمع کرنے اور تشریح کو خودکار بنا کر ، تخلیقی AI تنظیموں کو ابھرتے ہوئے خطرات پر تیزی سے رد عمل ظاہر کرنے میں مدد کرتا ہے اور شور میں چھپے ہوئے اہم انتباہات کے گم ہونے کے خطرے کو کم کرتا ہے۔

سیکیورٹی آپریشن سینٹر (SOC) آپٹیمائزیشن

سیکیورٹی آپریشنز سینٹر الرٹ تھکاوٹ اور ڈیٹا کے کرشنگ حجم کے لیے بدنام ہیں۔ ایک عام SOC تجزیہ کار ممکنہ واقعات کی تحقیقات کرتے ہوئے ہر روز ہزاروں الرٹس اور واقعات سے گزر سکتا ہے۔ جنریٹو AI معمول کے کام کو خودکار بنا کر، ذہین خلاصے فراہم کر کے، اور یہاں تک کہ کچھ جوابات کو ترتیب دے کر SOCs میں ایک قوت ضرب کے طور پر کام کر رہا ہے۔ مقصد SOC ورک فلو کو بہتر بنانا ہے تاکہ انسانی تجزیہ کار انتہائی اہم مسائل پر توجہ مرکوز کر سکیں جبکہ AI copilot باقی معاملات کو سنبھالتا ہے۔

ایک بڑی ایپلی کیشن جنریٹو اے آئی کو بطور "تجزیہ کار کا پائلٹ" ۔ مائیکروسافٹ کا سیکیورٹی کوپائلٹ، جس کا پہلے ذکر کیا گیا ہے، اس کی مثال دیتا ہے: یہ "سیکیورٹی تجزیہ کار کے کام کو تبدیل کرنے کے بجائے اس کی مدد کرنے کے لیے ڈیزائن کیا گیا ہے،" واقعے کی تحقیقات اور رپورٹنگ میں مدد کرتا ہے ( Microsoft Security Copilot سائبر سیکیورٹی کے لیے ایک نیا GPT-4 AI اسسٹنٹ ہے | The Verge )۔ عملی طور پر، اس کا مطلب ہے کہ ایک تجزیہ کار خام ڈیٹا داخل کر سکتا ہے - فائر وال لاگ، ایونٹ کی ٹائم لائن، یا واقعے کی تفصیل - اور AI سے اس کا تجزیہ کرنے یا اس کا خلاصہ کرنے کے لیے کہہ سکتا ہے۔ کوپائلٹ ایک بیانیہ تیار کر سکتا ہے جیسے، "ایسا معلوم ہوتا ہے کہ 2:35 AM پر، IP X سے ایک مشکوک لاگ ان سرور Y پر کامیاب ہوا، جس کے بعد ڈیٹا کی غیر معمولی منتقلی ہوئی، جو اس سرور کی ممکنہ خلاف ورزی کی نشاندہی کرتا ہے۔" اس قسم کی فوری سیاق و سباق انمول ہوتی ہے جب وقت کی اہمیت ہو۔

AI copilots سطح-1 ٹرائیج بوجھ کو کم کرنے میں بھی مدد کرتے ہیں۔ انڈسٹری کے اعداد و شمار کے مطابق، ایک سیکیورٹی ٹیم ہفتے میں 15 گھنٹے صرف 22,000 الرٹس اور غلط مثبت ( سائبرسیکیوریٹی میں جنریٹو اے آئی کے لیے 6 استعمال کیسز [+ مثالیں] ) کے ذریعے صرف کر سکتی ہے۔ جنریٹیو AI کے ساتھ، ان میں سے بہت سے انتباہات کو خود بخود ٹرائی کیا جا سکتا ہے - AI ان لوگوں کو مسترد کر سکتا ہے جو واضح طور پر بے نظیر ہیں (دئیے گئے استدلال کے ساتھ) اور ان لوگوں کو نمایاں کر سکتا ہے جن پر واقعی توجہ کی ضرورت ہے، بعض اوقات ترجیحات کا مشورہ بھی دیتے ہیں۔ درحقیقت، سیاق و سباق کو سمجھنے میں تخلیقی AI کی طاقت کا مطلب یہ ہے کہ یہ ان انتباہات کو آپس میں جوڑ سکتا ہے جو تنہائی میں بے ضرر معلوم ہوتے ہیں لیکن مل کر ملٹی اسٹیج حملے کی نشاندہی کرتے ہیں۔ یہ "انتباہی تھکاوٹ" کی وجہ سے حملے سے محروم ہونے کے امکانات کو کم کرتا ہے۔

SOC تجزیہ کار شکار اور تحقیقات کو تیز کرنے کے لیے AI کے ساتھ قدرتی زبان بھی استعمال کر رہے ہیں۔ SentinelOne کا پرپل AI پلیٹ فارم، مثال کے طور پر، ایک LLM پر مبنی انٹرفیس کو ریئل ٹائم سیکیورٹی ڈیٹا کے ساتھ جوڑتا ہے، جس سے تجزیہ کار "خطرے سے متعلق پیچیدہ سوالات سادہ انگریزی میں پوچھ سکتے ہیں اور تیز، درست جوابات حاصل کر سکتے ہیں" ( جنریٹیو AI کو سائبر سیکیورٹی میں کیسے استعمال کیا جا سکتا ہے؟ 10 Real-World )۔ ایک تجزیہ کار ٹائپ کر سکتا ہے، "کیا پچھلے مہینے میں ڈومین badguy123[.]com کے ساتھ کوئی اینڈ پوائنٹ مواصلت ہوا ہے؟" ، اور جامنی AI جواب دینے کے لیے لاگز کے ذریعے تلاش کرے گا۔ یہ تجزیہ کار کو ڈیٹا بیس کے سوالات یا اسکرپٹ لکھنے سے بچاتا ہے - AI اسے ہڈ کے نیچے کرتا ہے۔ اس کا مطلب یہ بھی ہے کہ جونیئر تجزیہ کار ان کاموں کو سنبھال سکتے ہیں جن کے لیے پہلے استفسار کرنے والی زبانوں میں ماہر انجینئر کی ضرورت ہوتی تھی، جو ٹیم کو AI مدد کے ذریعے مؤثر طریقے سے بہتر بناتی ہے ۔ درحقیقت، تجزیہ کار رپورٹ کرتے ہیں کہ تخلیقی AI رہنمائی "ان کی مہارتوں اور مہارت کو بڑھاتی ہے" ، کیونکہ جونیئر عملہ اب AI سے آن ڈیمانڈ کوڈنگ سپورٹ یا تجزیہ کی تجاویز حاصل کر سکتا ہے، جس سے ٹیم کے سینئر اراکین سے ہمیشہ مدد مانگنے پر انحصار کم ہو جاتا ہے ( 6 سائبر سیکیورٹی میں جنریٹو AI کے لیے کیسز استعمال کریں [+ مثالیں] )۔

ایک اور SOC اصلاح خودکار واقعہ کا خلاصہ اور دستاویزات ۔ کسی واقعے کو سنبھالنے کے بعد، کسی کو رپورٹ ضرور لکھنی چاہیے – یہ کام بہت سے لوگوں کو مشکل لگتا ہے۔ جنریٹو اے آئی فرانزک ڈیٹا لے سکتا ہے (سسٹم لاگز، مالویئر تجزیہ، کارروائیوں کی ٹائم لائن) اور واقعہ کی پہلی ڈرافٹ رپورٹ تیار کر سکتا ہے۔ IBM اس صلاحیت کو QRadar میں بنا رہا ہے تاکہ "ایک ہی کلک" مختلف اسٹیک ہولڈرز (ایگزیکٹیو، IT ٹیمیں وغیرہ) کے لیے ایک واقعے کا خلاصہ تیار کیا جا سکے ( سائبر سیکیورٹی میں جنریٹو اے آئی کو کیسے استعمال کیا جا سکتا ہے؟ 10 حقیقی دنیا کی مثالیں )۔ اس سے نہ صرف وقت کی بچت ہوتی ہے بلکہ اس بات کو بھی یقینی بناتا ہے کہ رپورٹ میں کسی بھی چیز کو نظر انداز نہ کیا جائے، کیونکہ AI تمام متعلقہ تفصیلات کو مستقل طور پر شامل کر سکتا ہے۔ اسی طرح، تعمیل اور آڈیٹنگ کے لیے، AI واقعے کے ڈیٹا کی بنیاد پر فارم یا ثبوت کی میزیں پُر کر سکتا ہے۔

حقیقی دنیا کے نتائج مجبور ہیں۔ Swimlane کے AI سے چلنے والے SOAR (سیکیورٹی آرکیسٹریشن، آٹومیشن، اور رسپانس) کے ابتدائی اختیار کرنے والے بہت زیادہ پیداواری فوائد کی اطلاع دیتے ہیں - مثال کے طور پر، گلوبل ڈیٹا سسٹمز نے دیکھا کہ ان کی SecOps ٹیم نے بہت زیادہ کیس بوجھ کا انتظام کیا ہے۔ ایک ڈائریکٹر نے کہا کہ "آج میں 7 تجزیہ کاروں کے ساتھ جو کچھ کرتا ہوں اس میں AI سے چلنے والے آٹومیشن کے بغیر عملے کے 20 ارکان کو لے جایا جائے گا" ( سائبرسیکیوریٹی میں جنریٹو اے آئی کو کیسے استعمال کیا جا سکتا ہے )۔ دوسرے الفاظ میں، SOC میں AI صلاحیت کو بڑھا سکتا ہے ۔ تمام صنعتوں میں، چاہے وہ کلاؤڈ سیکیورٹی الرٹس کے ساتھ کام کرنے والی ٹیک کمپنی ہو یا مینوفیکچرنگ پلانٹ OT سسٹمز کی نگرانی کرتی ہو، SOC ٹیمیں تیزی سے پتہ لگانے اور ردعمل، کم یاد آنے والے واقعات، اور جنریٹو AI معاونین کو اپنا کر زیادہ موثر آپریشنز حاصل کرنے کے لیے کھڑی ہیں۔ یہ ہوشیار کام کرنے کے بارے میں ہے - مشینوں کو بار بار اور ڈیٹا سے بھرے کاموں کو سنبھالنے کی اجازت دیتا ہے تاکہ انسان اپنی بصیرت اور مہارت کو استعمال کر سکیں جہاں یہ سب سے اہم ہے۔

خطرے کا انتظام اور خطرے کی تخروپن

کمزوریوں کی شناخت اور ان کا نظم کرنا - سافٹ ویئر یا سسٹمز میں کمزوریاں جن سے حملہ آور فائدہ اٹھا سکتے ہیں - سائبر سیکیورٹی کا ایک بنیادی کام ہے۔ جنریٹو اے آئی دریافت کو تیز کر کے، پیچ کی ترجیح میں مدد دے کر، اور حتیٰ کہ تیاری کو بہتر بنانے کے لیے ان کمزوریوں پر حملوں کی نقل کر کے خطرے کے انتظام کو بڑھا رہا ہے۔ خلاصہ یہ ہے کہ، AI تنظیموں کو ان کے کوچ میں سوراخوں کو زیادہ تیزی سے ڈھونڈنے اور ٹھیک کرنے میں مدد کر رہا ہے، اور حقیقی حملہ آوروں کے کرنے سے پہلے فعال طور پر

ایک اہم ایپلیکیشن خودکار کوڈ کے جائزے اور خطرے کی دریافت ۔ بڑے کوڈبیسز (خاص طور پر میراثی نظام) اکثر حفاظتی خامیوں کو روکتے ہیں جن پر کسی کا دھیان نہیں جاتا۔ جنریٹو AI ماڈلز کو محفوظ کوڈنگ کے طریقوں اور عام بگ پیٹرن پر تربیت دی جا سکتی ہے، پھر ممکنہ کمزوریوں کو تلاش کرنے کے لیے سورس کوڈ یا مرتب شدہ بائنریز پر اتارا جا سکتا ہے۔ مثال کے طور پر، NVIDIA کے محققین نے ایک تخلیقی AI پائپ لائن تیار کی ہے جو لیگیسی سافٹ ویئر کنٹینرز کا تجزیہ کر سکتی ہے اور "اعلی درستگی کے ساتھ - انسانی ماہرین کے مقابلے میں 4× تک تیز" خطرات کی نشاندہی کر سکتی ہے۔ ( 6 سائبرسیکیوریٹی میں جنریٹو اے آئی کے لیے کیسز استعمال کریں [+ مثالیں] )۔ AI نے بنیادی طور پر یہ سیکھا کہ غیر محفوظ کوڈ کیسا لگتا ہے اور کئی دہائیوں پرانے سافٹ ویئر کے ذریعے اس قابل تھا کہ وہ خطرناک فنکشنز اور لائبریریوں کو جھنڈا دے سکے، جس سے دستی کوڈ آڈیٹنگ کے عام طور پر سست عمل کو تیز کیا جا سکے۔ اس قسم کا ٹول فنانس یا حکومت جیسی صنعتوں کے لیے گیم چینجر ثابت ہو سکتا ہے جو بڑے، پرانے کوڈ بیسز پر انحصار کرتی ہیں - AI ان مسائل کو کھود کر سیکیورٹی کو جدید بنانے میں مدد کرتا ہے جنہیں تلاش کرنے میں عملے کو مہینوں یا سال لگ سکتے ہیں (اگر کبھی)۔

جنریٹو AI کمزوری کے اسکین کے نتائج پر کارروائی کرکے اور انہیں ترجیح دے کر خطرے کے انتظام کے ورک فلو ExposureAI جیسے ٹولز جنریٹیو AI کا استعمال کرتے ہیں تاکہ تجزیہ کاروں کو کمزوری کے ڈیٹا سے سادہ زبان میں استفسار کیا جا سکے اور فوری جوابات حاصل کیے جا سکیں ( جنریٹو AI کو سائبر سکیورٹی میں کیسے استعمال کیا جا سکتا ہے؟ 10 حقیقی دنیا کی مثالیں )۔ ExposureAI "ایک بیانیہ میں حملے کے مکمل راستے کا خلاصہ" ، یہ بتاتا ہے کہ کس طرح حملہ آور کسی نظام سے سمجھوتہ کرنے کے لیے اسے دوسری کمزوریوں کے ساتھ جوڑ سکتا ہے۔ یہاں تک کہ یہ تدارک کے لیے اقدامات کی سفارش کرتا ہے اور خطرے کے بارے میں فالو اپ سوالات کے جوابات دیتا ہے۔ اس کا مطلب ہے کہ جب ایک نئے تنقیدی CVE (عام خطرات اور نمائشوں) کا اعلان کیا جاتا ہے، ایک تجزیہ کار AI سے پوچھ سکتا ہے، "کیا ہمارے سرورز میں سے کوئی بھی اس CVE سے متاثر ہوا ہے اور اگر ہم پیچ نہیں کرتے ہیں تو بدترین صورت حال کیا ہے؟" اور تنظیم کے اپنے اسکین ڈیٹا سے ایک واضح تشخیص حاصل کریں۔ کمزوریوں کو سیاق و سباق کے مطابق بنا کر (مثلاً یہ انٹرنیٹ اور اعلیٰ قدر والے سرور پر ظاہر ہوتا ہے، اس لیے یہ اولین ترجیح ہے)، جنریٹو AI ٹیموں کو محدود وسائل کے ساتھ ہوشیاری سے پیچ کرنے میں مدد کرتا ہے۔

معلوم کمزوریوں کو تلاش کرنے اور ان کا نظم کرنے کے علاوہ، جنریٹو AI دخول کی جانچ اور حملے کے تخروپن - بنیادی طور پر نامعلوم کمزوریوں کو دریافت کرنا یا سیکیورٹی کنٹرولز کی جانچ کرنا۔ جنریٹو ایڈورسریل نیٹ ورکس (GANs)، جنریٹو AI کی ایک قسم، مصنوعی ڈیٹا بنانے کے لیے استعمال کیا گیا ہے جو حقیقی نیٹ ورک ٹریفک یا صارف کے رویے کی نقل کرتا ہے، جس میں حملے کے پوشیدہ نمونے شامل ہو سکتے ہیں۔ 2023 کے ایک مطالعے میں مداخلت کا پتہ لگانے کے نظام کو تربیت دینے کے لیے حقیقت پسندانہ صفر دن کے حملے کی ٹریفک پیدا کرنے کے لیے GANs کا استعمال کرنے کا مشورہ دیا گیا ہے ( 6 سائبر سیکیورٹی میں جنریٹو AI کے لیے کیسز استعمال کریں [+ مثالیں] )۔ آئی ڈی ایس کو AI سے تیار کردہ حملے کے منظرناموں کے ساتھ کھلانے سے (جو پروڈکشن نیٹ ورکس پر حقیقی میلویئر کے استعمال کا خطرہ نہیں رکھتے ہیں)، تنظیمیں حقیقت میں ان کے مارے جانے کا انتظار کیے بغیر اپنے دفاع کو نئے خطرات کو پہچاننے کی تربیت دے سکتی ہیں۔ اسی طرح، AI کسی نظام کی جانچ کرنے والے حملہ آور کی تقلید کر سکتا ہے - مثال کے طور پر، خود کار طریقے سے ایک محفوظ ماحول میں استحصال کی مختلف تکنیکوں کو آزمانا یہ دیکھنے کے لیے کہ آیا کوئی کامیاب ہوتا ہے۔ یو ایس ڈیفنس ایڈوانسڈ ریسرچ پروجیکٹس ایجنسی (DARPA) یہاں وعدہ دیکھتی ہے: اس کا 2023 AI سائبر چیلنج واضح طور پر ایک مقابلے کے حصے کے طور پر "اوپن سورس سافٹ ویئر میں کمزوریوں کو خود بخود تلاش کرنے اور ان کو ٹھیک کرنے" کے لیے جنریٹو AI (جیسے بڑے لینگوئج ماڈل) کا استعمال کرتا ہے )۔ یہ اقدام اس بات کی نشاندہی کرتا ہے کہ AI صرف معلوم سوراخوں کو ٹھیک کرنے میں مدد نہیں کر رہا ہے۔ یہ فعال طور پر نئی چیزوں کو ننگا کر رہا ہے اور اصلاحات تجویز کر رہا ہے، یہ کام روایتی طور پر ہنر مند (اور مہنگے) سیکیورٹی محققین تک محدود ہے۔

جنریٹو اے آئی دفاع کے لیے ذہین ہنی پاٹس اور ڈیجیٹل جڑواں بچے سٹارٹ اپ AI سے چلنے والے ڈیکوئی سسٹم تیار کر رہے ہیں جو حقیقی سرورز یا ڈیوائسز کو یقین سے نقل کرتے ہیں۔ جیسا کہ ایک CEO نے وضاحت کی، جنریٹو AI "حقیقی لوگوں کی نقل کرنے اور ہیکرز کو راغب کرنے کے لیے ڈیجیٹل سسٹمز کو کلون کر سکتا ہے" ( 6 سائبرسیکیوریٹی میں جنریٹو AI کے لیے کیسز استعمال کریں [+ مثالیں] )۔ یہ AI سے تیار کردہ ہنی پاٹس حقیقی ماحول کی طرح برتاؤ کرتے ہیں (کہیں، ایک جعلی IoT ڈیوائس جو عام ٹیلی میٹری بھیجتا ہے) لیکن صرف حملہ آوروں کو راغب کرنے کے لیے موجود ہے۔ جب کوئی حملہ آور ڈیکوے کو نشانہ بناتا ہے، تو AI نے بنیادی طور پر ان کو اپنے طریقوں کو ظاہر کرنے کے لیے دھوکہ دیا ہے، جن کا محافظ پھر مطالعہ کر سکتے ہیں اور حقیقی نظام کو تقویت دینے کے لیے استعمال کر سکتے ہیں۔ حملہ آوروں پر میزیں پھیرنے ، AI کی طرف سے بڑھے ہوئے فریب کا استعمال کرتے ہوئے آگے کا راستہ فراہم کرتا ہے

تمام صنعتوں میں، تیز تر اور بہتر خطرے کے انتظام کا مطلب ہے کم خلاف ورزیاں۔ صحت کی دیکھ بھال کے IT میں، مثال کے طور پر، AI میڈیکل ڈیوائس میں ایک کمزور پرانی لائبریری کو تیزی سے دیکھ سکتا ہے اور اس سے پہلے کہ کوئی حملہ آور اس کا استحصال کرے۔ بینکنگ میں، AI کسی نئی ایپلیکیشن پر اندرونی حملے کی نقالی کر سکتا ہے تاکہ یہ یقینی بنایا جا سکے کہ کسٹمر ڈیٹا تمام حالات میں محفوظ رہے۔ اس طرح جنریٹو AI تنظیموں کی حفاظتی کرنسی کے لیے ایک خوردبین اور تناؤ ٹیسٹر دونوں کے طور پر کام کرتا ہے: یہ لچک کو یقینی بنانے کے لیے تخیلاتی طریقوں سے چھپی ہوئی خامیوں اور دباؤ کے نظام کو روشن کرتا ہے۔

محفوظ کوڈ جنریشن اور سافٹ ویئر ڈویلپمنٹ

جنریٹو AI کی صلاحیتیں صرف حملوں کا پتہ لگانے تک ہی محدود نہیں ہیں - وہ شروع سے ہی زیادہ محفوظ سسٹمز بنانے ۔ سافٹ ویئر ڈویلپمنٹ میں، AI کوڈ جنریٹرز (جیسے GitHub Copilot، OpenAI Codex، وغیرہ) کوڈ کے ٹکڑوں یا حتیٰ کہ پورے فنکشنز کی تجویز دے کر کوڈ کو تیزی سے لکھنے میں ڈویلپرز کی مدد کر سکتے ہیں۔ سائبر سیکیورٹی اینگل اس بات کو یقینی بنا رہا ہے کہ یہ AI کے تجویز کردہ کوڈ کے ٹکڑے محفوظ ہیں اور کوڈنگ کے طریقوں کو بہتر بنانے کے لیے AI کا استعمال کر رہے ہیں۔

ایک طرف، جنریٹو AI ایک کوڈنگ اسسٹنٹ کے طور پر کام کر سکتا ہے جو سیکیورٹی کے بہترین طریقوں کو سرایت کرتا ہے ۔ ڈویلپرز ایک AI ٹول کا اشارہ دے سکتے ہیں، "Python میں پاس ورڈ ری سیٹ فنکشن تیار کریں" اور مثالی طور پر بیک کوڈ حاصل کر سکتے ہیں جو نہ صرف فعال ہے بلکہ محفوظ رہنما خطوط پر بھی عمل کرتا ہے (مثلاً ان پٹ کی درستگی، لاگنگ، معلومات کو لیک کیے بغیر غلطی سے نمٹنے وغیرہ)۔ اس طرح کا معاون، وسیع محفوظ کوڈ کی مثالوں پر تربیت یافتہ، انسانی غلطیوں کو کم کرنے میں مدد کر سکتا ہے جو خطرات کا باعث بنتے ہیں۔ مثال کے طور پر، اگر کوئی ڈویلپر صارف کے ان پٹ کو صاف کرنا بھول جاتا ہے (ایس کیو ایل انجیکشن یا اسی طرح کے مسائل کا دروازہ کھولنا)، تو ایک AI یا تو اسے بطور ڈیفالٹ شامل کر سکتا ہے یا انہیں خبردار کر سکتا ہے۔ کچھ AI کوڈنگ ٹولز کو اب سیکیورٹی پر مرکوز ڈیٹا کے ساتھ ٹھیک بنایا جا رہا ہے تاکہ اس عین مقصد کو پورا کیا جا سکے – بنیادی طور پر، AI جوڑی پروگرامنگ کو سیکیورٹی ضمیر کے ساتھ ۔

تاہم، اس کا ایک دوسرا پہلو بھی ہے: اگر صحیح طریقے سے حکومت نہ کی جائے تو تخلیقی AI آسانی سے کمزوریوں کو متعارف کرا سکتا ہے۔ جیسا کہ سوفوس سیکیورٹی کے ماہر بین ورشایرن نے نوٹ کیا، کوڈنگ کے لیے جنریٹو AI کا استعمال "مختصر، قابل تصدیق کوڈ کے لیے ٹھیک ہے، لیکن پروڈکشن سسٹمز میں غیر چیک شدہ کوڈ کے ضم ہونے پر خطرناک ہے"۔ خطرہ یہ ہے کہ ایک AI منطقی طور پر درست کوڈ تیار کر سکتا ہے جو ان طریقوں سے غیر محفوظ ہے جو شاید کسی غیر ماہر کو محسوس نہ ہو۔ مزید برآں، بدنیتی پر مبنی اداکار جان بوجھ کر عوامی AI ماڈلز کو کمزور کوڈ پیٹرن (ڈیٹا پوائزننگ کی ایک شکل) سے سیڈ کرکے متاثر کرسکتے ہیں تاکہ AI غیر محفوظ کوڈ تجویز کرے۔ زیادہ تر ڈویلپرز سیکیورٹی کے ماہرین نہیں ہیں ، لہذا اگر کوئی AI کوئی آسان حل تجویز کرتا ہے، تو وہ اسے آنکھ بند کر کے استعمال کر سکتے ہیں، یہ نہ سمجھے کہ اس میں کوئی خامی ہے ( 6 استعمال کے کیسز برائے جنریٹو AI in Cybersecurity [+ مثالیں] )۔ یہ تشویش حقیقی ہے - درحقیقت، LLMs (بڑے زبان کے ماڈلز) کے لیے اب ایک OWASP ٹاپ 10 فہرست ہے جو کوڈنگ کے لیے AI کے استعمال میں اس طرح کے عام خطرات کا خاکہ پیش کرتی ہے۔

ان مسائل کا مقابلہ کرنے کے لیے، ماہرین کوڈنگ کے دائرے میں "جنریٹیو AI کے ساتھ جنریٹیو AI سے لڑنے" کا کہ دوسرے AI (یا انسانوں) کے لکھے ہوئے کوڈ کا جائزہ لینے اور جانچنے کے لیے AI کا استعمال کریں ایک AI نئے کوڈ کے ذریعے اسکین کر سکتا ہے جو انسانی کوڈ کا جائزہ لینے والے سے کہیں زیادہ تیزی سے کرتا ہے اور ممکنہ کمزوریوں یا منطقی مسائل کو نشان زد کر سکتا ہے۔ ہم پہلے سے ہی ایسے ٹولز کو ابھرتے ہوئے دیکھتے ہیں جو سافٹ ویئر ڈویلپمنٹ لائف سائیکل میں ضم ہوتے ہیں: کوڈ لکھا جاتا ہے (شاید AI کی مدد سے)، پھر محفوظ کوڈ کے اصولوں پر تربیت یافتہ ایک جنریٹو ماڈل اس کا جائزہ لیتا ہے اور کسی بھی تشویش کی رپورٹ تیار کرتا ہے (کہیں، فرسودہ افعال کا استعمال، تصدیق کی جانچ کی گمشدگی وغیرہ)۔ NVIDIA کی تحقیق، جس کا پہلے ذکر کیا گیا ہے، جس نے کوڈ میں 4× تیزی سے کمزوری کا پتہ لگایا ہے، محفوظ کوڈ کے تجزیہ کے لیے AI کو استعمال کرنے کی ایک مثال ہے ( 6 استعمال کیسز برائے جنریٹو AI in Cybersecurity [+ Examples] )۔

مزید برآں، جنریٹو AI محفوظ کنفیگریشنز اور اسکرپٹس بنانے ۔ مثال کے طور پر، اگر کسی کمپنی کو ایک محفوظ کلاؤڈ انفراسٹرکچر کو تعینات کرنے کی ضرورت ہے، تو ایک انجینئر AI سے سیکیورٹی کنٹرولز (جیسے مناسب نیٹ ورک سیگمنٹیشن، کم از کم استحقاق والے IAM رولز) کے ساتھ کنفیگریشن اسکرپٹس (بطور کوڈ) تیار کرنے کے لیے کہہ سکتا ہے۔ AI، اس طرح کے ہزاروں کنفیگریشنز پر تربیت یافتہ ہونے کے بعد، انجن کو بیس لائن بنا سکتا ہے۔ یہ سسٹمز کے محفوظ سیٹ اپ کو تیز کرتا ہے اور غلط کنفیگریشن کی غلطیوں کو کم کرتا ہے – جو کلاؤڈ سیکیورٹی کے واقعات کا ایک عام ذریعہ ہے۔

کچھ تنظیمیں محفوظ کوڈنگ پیٹرن کے علم کی بنیاد کو برقرار رکھنے کے لیے جنریٹیو AI کا بھی فائدہ اٹھا رہی ہیں۔ اگر کسی ڈویلپر کو یقین نہیں ہے کہ کسی خاص خصوصیت کو محفوظ طریقے سے کیسے نافذ کیا جائے، تو وہ ایک اندرونی AI سے استفسار کر سکتے ہیں جس نے کمپنی کے ماضی کے منصوبوں اور حفاظتی رہنما خطوط سے سیکھا ہے۔ AI ایک تجویز کردہ نقطہ نظر یا یہاں تک کہ کوڈ کا ٹکڑا واپس کر سکتا ہے جو فنکشنل تقاضوں اور کمپنی کے حفاظتی معیارات دونوں کے مطابق ہو۔ Secureframe's Questionnaire Automation جیسے ٹولز کے ذریعے استعمال کیا گیا ہے ، جو کمپنی کی پالیسیوں اور ماضی کے حلوں سے جوابات حاصل کرتے ہیں تاکہ مستقل اور درست جوابات کو یقینی بنایا جا سکے (بنیادی طور پر محفوظ دستاویزات تیار کرنا ) تصور کا ترجمہ کوڈنگ سے ہوتا ہے: ایک AI جو "یاد رکھتا ہے" کہ آپ نے پہلے کسی چیز کو محفوظ طریقے سے کیسے لاگو کیا تھا اور اسے دوبارہ اس طرح کرنے کے لیے آپ کی رہنمائی کرتا ہے۔

خلاصہ یہ کہ جنریٹو AI محفوظ کوڈنگ امداد کو مزید قابل رسائی بنا کر ۔ وہ صنعتیں جو بہت زیادہ حسب ضرورت سافٹ ویئر تیار کرتی ہیں - ٹیک، فنانس، ڈیفنس، وغیرہ - AI copilots رکھنے سے فائدہ اٹھاتی ہیں جو نہ صرف کوڈنگ کو تیز کرتی ہیں بلکہ ہمیشہ چوکس حفاظتی جائزہ لینے والے کے طور پر کام کرتی ہیں۔ جب مناسب طریقے سے حکومت کی جائے تو، یہ AI ٹولز نئی کمزوریوں کے تعارف کو کم کر سکتے ہیں اور ترقیاتی ٹیموں کو بہترین طریقوں پر عمل کرنے میں مدد کر سکتے ہیں، چاہے ٹیم کے پاس ہر قدم پر کوئی سیکیورٹی ماہر شامل نہ ہو۔ نتیجہ سافٹ ویئر ہے جو پہلے دن سے حملوں کے خلاف زیادہ مضبوط ہے۔

واقعہ رسپانس سپورٹ

جب سائبر سیکیورٹی کا کوئی واقعہ پیش آتا ہے – خواہ وہ میلویئر کا پھیلنا ہو، ڈیٹا کی خلاف ورزی ہو، یا کسی حملے سے سسٹم کی بندش ہو، تو وقت بہت اہم ہے۔ جنریٹو AI تیزی سے واقعات پر قابو پانے اور ان کا تدارک کرنے میں اور مزید معلومات کے ساتھ واقعہ کے ردعمل (IR) ٹیموں کی مدد خیال یہ ہے کہ AI کسی واقعے کے دوران کچھ تفتیشی اور دستاویزات کا بوجھ اٹھا سکتا ہے، اور یہاں تک کہ کچھ جوابی کارروائیوں کی تجویز یا خود کار طریقے سے کام کر سکتا ہے۔

IR میں AI کا ایک اہم کردار حقیقی وقت میں واقعہ کا تجزیہ اور خلاصہ ۔ کسی واقعے کے درمیان، جواب دہندگان کو سوالات کے جوابات کی ضرورت ہو سکتی ہے جیسے "حملہ آور اندر کیسے آیا؟" , "کون سے نظام متاثر ہوئے ہیں؟" اور "کس ڈیٹا سے سمجھوتہ کیا جا سکتا ہے؟" . جنریٹو AI متاثرہ سسٹمز سے لاگز، الرٹس اور فرانزک ڈیٹا کا تجزیہ کر سکتا ہے اور فوری طور پر بصیرت فراہم کر سکتا ہے۔ مثال کے طور پر، مائیکروسافٹ سیکیورٹی کوپائلٹ ایک واقعے کے جواب دہندہ کو ثبوت کے مختلف ٹکڑوں (فائلوں، یو آر ایل، ایونٹ لاگز) میں فیڈ کرنے اور ٹائم لائن یا خلاصہ طلب کرنے کی اجازت دیتا ہے ( Microsoft سیکیورٹی Copilot سائبر سیکیورٹی کے لیے ایک نیا GPT-4 AI اسسٹنٹ ہے | The Verge )۔ AI اس کے ساتھ جواب دے سکتا ہے: "خرابی ممکنہ طور پر 10:53 GMT پر صارف JohnDoe کو ایک فشنگ ای میل کے ساتھ شروع ہوئی تھی جس میں میلویئر X تھا۔ ایک بار پھانسی دینے کے بعد، میلویئر نے ایک بیک ڈور بنایا جسے دو دن بعد فنانس سرور پر منتقل کرنے کے لیے استعمال کیا گیا، جہاں اس نے ڈیٹا اکٹھا کیا۔" گھنٹوں کے بجائے منٹوں میں اس مربوط تصویر کا ہونا ٹیم کو باخبر فیصلے کرنے کے قابل بناتا ہے (جیسے کہ کس سسٹم کو الگ کرنا ہے) بہت تیزی سے۔

کنٹینمنٹ اور تدارک کے اقدامات بھی تجویز کر سکتا ہے ۔ مثال کے طور پر، اگر کوئی اینڈ پوائنٹ رینسم ویئر سے متاثر ہوتا ہے، تو ایک AI ٹول اس مشین کو الگ تھلگ کرنے، کچھ اکاؤنٹس کو غیر فعال کرنے، اور معروف نقصان دہ IPs کو فائر وال پر بلاک کرنے کے لیے اسکرپٹ یا ہدایات کا سیٹ بنا سکتا ہے - بنیادی طور پر ایک پلے بک پر عمل درآمد۔ پالو آلٹو نیٹ ورکس نوٹ کرتا ہے کہ جنریٹو AI "واقعہ کی نوعیت کی بنیاد پر مناسب کارروائیاں یا اسکرپٹ تیار کرنے" ، جواب کے ابتدائی مراحل کو خودکار کرتا ہے ( سائبر سیکیورٹی میں جنریٹو AI کیا ہے؟ - پالو آلٹو نیٹ ورکس )۔ ایک ایسے منظر نامے میں جہاں سیکیورٹی ٹیم مغلوب ہے (کہیں کہ سیکڑوں آلات پر ایک وسیع حملہ)، AI ان میں سے کچھ کارروائیوں کو پہلے سے منظور شدہ شرائط کے تحت براہ راست انجام دے سکتا ہے، ایک جونیئر جواب دہندہ کی طرح کام کرتا ہے جو انتھک کام کرتا ہے۔ مثال کے طور پر، ایک AI ایجنٹ خود بخود اسناد کو دوبارہ ترتیب دے سکتا ہے جسے وہ سمجھتا ہے کہ سمجھوتہ کیا گیا تھا یا قرنطینہ میزبان جو واقعے کے پروفائل سے مماثل بدنیتی پر مبنی سرگرمی کو ظاہر کرتے ہیں۔

واقعے کے ردعمل کے دوران، مواصلت ضروری ہے – ٹیم کے اندر اور اسٹیک ہولڈرز دونوں کے لیے۔ جنریٹو AI واقعہ کی تازہ کاری کی رپورٹس یا پرواز پر بریفس تیار ۔ بجائے اس کے کہ کوئی انجینئر ای میل اپ ڈیٹ لکھنے کے لیے اپنی خرابیوں کا ازالہ کرنے سے روکے، وہ AI سے پوچھ سکتے ہیں، "اس واقعے میں اب تک کیا ہوا ہے اس کا خلاصہ کریں تاکہ ایگزیکٹوز کو مطلع کیا جا سکے۔" AI، واقعے کے ڈیٹا کو ہضم کرنے کے بعد، ایک مختصر خلاصہ پیش کر سکتا ہے: "شام 3 بجے تک، حملہ آوروں نے 2 صارف اکاؤنٹس اور 5 سرورز تک رسائی حاصل کی ہے۔ متاثرہ ڈیٹا میں ڈیٹا بیس X میں کلائنٹ کے ریکارڈز شامل ہیں۔ کنٹینمنٹ کے اقدامات: سمجھوتہ کیے گئے اکاؤنٹس کے لیے VPN تک رسائی کو منسوخ کر دیا گیا ہے اور سرورز کو الگ کر دیا گیا ہے۔ اگلے اقدامات: ہر ایک کے لیے scanism" جواب دہندہ اس کے بعد فوری طور پر اس کی تصدیق یا موافقت کر سکتا ہے اور اسے بھیج سکتا ہے، اس بات کو یقینی بناتا ہے کہ اسٹیک ہولڈرز کو درست، تازہ ترین معلومات کے ساتھ لوپ میں رکھا جائے۔

دھول اڑنے کے بعد، عام طور پر تیار کرنے کے لیے ایک تفصیلی واقعہ کی رپورٹ اور مرتب کرنے کے لیے سیکھے گئے اسباق ہوتے ہیں۔ یہ ایک اور علاقہ ہے جہاں AI سپورٹ چمکتا ہے۔ یہ واقعہ کے تمام اعداد و شمار کا جائزہ لے سکتا ہے اور واقعہ کے بعد کی رپورٹ بنا سکتا ہے جس میں بنیادی وجہ، تاریخ، اثرات، اور سفارشات شامل ہیں۔ IBM، مثال کے طور پر، ایک بٹن دبانے پر "سیکیورٹی کیسز اور واقعات کے سادہ خلاصے جو اسٹیک ہولڈرز کے ساتھ شیئر کیے جاسکتے ہیں" سائبر سیکیورٹی میں جنریٹو AI کو کیسے استعمال کیا جا سکتا ہے؟ 10 حقیقی دنیا کی مثالیں )۔ کارروائی کے بعد کی رپورٹنگ کو ہموار کرنے سے، تنظیمیں بہتری کو تیزی سے نافذ کر سکتی ہیں اور تعمیل کے مقاصد کے لیے بہتر دستاویزات بھی رکھتی ہیں۔

ایک جدید مستقبل کا استعمال AI سے چلنے والے واقعہ کی نقل ۔ فائر ڈرل کیسے چلائی جا سکتی ہے اسی طرح، کچھ کمپنیاں "واٹ-اگر" واقعہ کے منظرناموں سے گزرنے کے لیے جنریٹو AI کا استعمال کر رہی ہیں۔ AI اس بات کی تقلید کر سکتا ہے کہ نیٹ ورک لے آؤٹ کے پیش نظر رینسم ویئر کیسے پھیل سکتا ہے، یا کوئی اندرونی شخص ڈیٹا کو کیسے نکال سکتا ہے، اور پھر موجودہ ردعمل کے منصوبوں کی تاثیر کو اسکور کر سکتا ہے۔ اس سے ٹیموں کو کوئی حقیقی واقعہ پیش آنے سے پہلے پلے بکس کی تیاری اور ان کو بہتر بنانے میں مدد ملتی ہے۔ یہ ایسا ہی ہے جیسے ایک ہمیشہ بہتر ہونے والا واقعہ جوابی مشیر جو آپ کی تیاری کو مسلسل جانچتا ہے۔

فنانس یا ہیلتھ کیئر جیسی اعلیٰ داؤ پر لگی صنعتوں میں، جہاں واقعات سے ڈاؤن ٹائم یا ڈیٹا کا نقصان خاص طور پر مہنگا ہوتا ہے، یہ AI سے چلنے والی IR صلاحیتیں بہت پرکشش ہیں۔ سائبر واقعے کا سامنا کرنے والا ہسپتال طویل عرصے تک سسٹم کی بندش کا متحمل نہیں ہو سکتا - ایک AI جو فوری طور پر کنٹینمنٹ میں مدد کرتا ہے لفظی طور پر جان بچانے والا ہو سکتا ہے۔ اسی طرح، ایک مالیاتی ادارہ صبح 3 بجے ایک مشتبہ دھوکہ دہی کے ابتدائی ٹرائیج کو سنبھالنے کے لیے AI کا استعمال کر سکتا ہے، تاکہ آن کال انسانوں کے آن لائن ہونے تک، بہت ساری بنیادیں (متاثرہ اکاؤنٹس کو لاگ آف کرنا، ٹرانزیکشنز کو بلاک کرنا وغیرہ) پہلے ہی ہو چکا ہوتا ہے۔ جنریٹیو AI کے ساتھ واقعہ کی رسپانس ٹیموں کو بڑھا کر ، تنظیمیں ردعمل کے اوقات کو نمایاں طور پر کم کر سکتی ہیں اور اپنی ہینڈلنگ کی مکملیت کو بہتر بنا سکتی ہیں، بالآخر سائبر واقعات سے ہونے والے نقصان کو کم کر سکتی ہیں۔

طرز عمل کے تجزیات اور بے ضابطگی کا پتہ لگانا

بہت سے سائبر حملوں کو یہ دیکھ کر پکڑا جا سکتا ہے کہ جب کوئی چیز "نارمل" رویے سے ہٹ جاتی ہے - چاہے وہ صارف اکاؤنٹ ہو جو ڈیٹا کی غیر معمولی مقدار کو ڈاؤن لوڈ کر رہا ہو یا نیٹ ورک ڈیوائس کا اچانک کسی ناواقف میزبان کے ساتھ رابطہ ہو جائے۔ رویے کے تجزیے اور بے ضابطگیوں کا پتہ لگانے کے لیے جدید تکنیک پیش کرتا ہے ، صارفین اور سسٹمز کے معمول کے نمونوں کو سیکھتا ہے اور پھر جب کچھ نظر آتا ہے تو جھنڈا لگاتا ہے۔

روایتی بے ضابطگی کا پتہ لگانے میں اکثر شماریاتی حد یا مخصوص میٹرکس پر سادہ مشین لرننگ کا استعمال کیا جاتا ہے (CPU استعمال میں اضافے، طاق اوقات میں لاگ ان، وغیرہ)۔ جنریٹو AI رویے کے مزید اہم پروفائلز بنا کر اسے مزید آگے لے جا سکتا ہے۔ مثال کے طور پر، ایک AI ماڈل وقت کے ساتھ ساتھ کسی ملازم کے لاگ ان، فائل تک رسائی کے نمونوں اور ای میل کی عادات کو شامل کر سکتا ہے اور اس صارف کے "عام" کی کثیر جہتی تفہیم تشکیل دے سکتا ہے۔ اگر وہ اکاؤنٹ بعد میں اپنے معمول سے ہٹ کر کچھ کرتا ہے (جیسے کسی نئے ملک سے لاگ ان کرنا اور آدھی رات کو HR فائلوں تک رسائی حاصل کرنا)، تو AI صرف ایک میٹرک پر نہیں بلکہ پورے رویے کے پیٹرن کے طور پر انحراف کا پتہ لگائے گا جو صارف کے پروفائل کے مطابق نہیں ہے۔ تکنیکی اصطلاحات میں، جنریٹو ماڈل (جیسے آٹو اینکوڈرز یا سیکوینس ماڈل) ماڈل بنا سکتے ہیں کہ "نارمل" کیسا لگتا ہے اور پھر رویے کی ایک متوقع حد پیدا کر سکتا ہے۔ جب حقیقت اس حد سے باہر آتی ہے، تو اسے ایک بے ضابطگی کے طور پر نشان زد کیا جاتا ہے ( سائبرسیکیوریٹی میں جنریٹو اے آئی کیا ہے؟ - پالو آلٹو نیٹ ورکس )۔

ایک عملی نفاذ نیٹ ورک ٹریفک کی نگرانی ۔ 2024 کے سروے کے مطابق، 54% امریکی تنظیموں نے مانیٹرنگ نیٹ ورک ٹریفک کو سائبر سیکیورٹی میں AI کے لیے سب سے زیادہ استعمال کے کیس کے طور پر حوالہ دیا ( شمالی امریکہ: دنیا بھر میں سائبر سیکیورٹی میں AI کے استعمال کے سب سے بڑے کیسز 2024 )۔ جنریٹو AI کسی انٹرپرائز کے نیٹ ورک کے عام کمیونیکیشن پیٹرن کو سیکھ سکتا ہے - کون سے سرور عام طور پر ایک دوسرے سے بات کرتے ہیں، کاروباری اوقات کے دوران ڈیٹا کی کتنی مقداریں راتوں رات منتقل ہوتی ہیں، وغیرہ۔ اگر کوئی حملہ آور کسی سرور سے ڈیٹا نکالنا شروع کر دیتا ہے، یہاں تک کہ پتہ لگانے سے بچنے کے لیے، ایک AI پر مبنی نظام یہ دیکھ سکتا ہے کہ " Server A کبھی بھی IPAM کے 500 MB پر ڈیٹا نہیں بھیجتا" الرٹ کیونکہ AI صرف جامد اصولوں کا استعمال نہیں کر رہا ہے بلکہ نیٹ ورک کے رویے کا ایک ابھرتا ہوا ماڈل استعمال کر رہا ہے، اس لیے یہ ٹھیک ٹھیک بے ضابطگیوں کو پکڑ سکتا ہے جو جامد قواعد (جیسے "الرٹ اگر ڈیٹا > X MB") چھوٹ سکتا ہے یا غلطی سے جھنڈا لگا سکتا ہے۔ یہ انکولی نوعیت ہی ہے جو بینکنگ ٹرانزیکشن نیٹ ورکس، کلاؤڈ انفراسٹرکچر، یا IoT ڈیوائس فلیٹ جیسے ماحول میں AI سے چلنے والی بے ضابطگی کا پتہ لگانے کو طاقتور بناتی ہے، جہاں عام بمقابلہ غیر معمولی کے لیے مقررہ اصولوں کی وضاحت انتہائی پیچیدہ ہے۔

جنریٹو AI صارف کے رویے کے تجزیات (UBA) ، جو اندرونی خطرات یا سمجھوتہ شدہ اکاؤنٹس کو تلاش کرنے کی کلید ہے۔ ہر صارف یا ادارے کی ایک بنیادی لائن تیار کرکے، AI اسناد کے غلط استعمال جیسی چیزوں کا پتہ لگا سکتا ہے۔ مثال کے طور پر، اگر اکاؤنٹنگ سے باب اچانک کسٹمر ڈیٹا بیس سے استفسار کرنا شروع کر دیتا ہے (ایسی چیز جو اس نے پہلے کبھی نہیں کی تھی)، تو باب کے رویے کے لیے AI ماڈل اسے غیر معمولی قرار دے گا۔ ہو سکتا ہے کہ یہ میلویئر نہ ہو – یہ باب کی اسناد کے چوری ہونے اور حملہ آور کے ذریعے استعمال کرنے کا معاملہ ہو سکتا ہے، یا باب کی جانچ کر رہا ہے کہ اسے کہاں نہیں کرنا چاہیے۔ کسی بھی طرح سے، سیکیورٹی ٹیم تحقیقات کے لیے پیش قدمی کرتی ہے۔ اس طرح کے AI سے چلنے والے UBA سسٹمز مختلف سیکیورٹی پروڈکٹس میں موجود ہیں، اور جنریٹیو ماڈلنگ کی تکنیکیں سیاق و سباق کو مدنظر رکھ کر ان کی درستگی کو بلند کر رہی ہیں اور غلط الارم کو کم کر رہی ہیں (شاید باب کسی خاص پروجیکٹ پر ہے، وغیرہ، جس کا AI بعض اوقات دوسرے ڈیٹا سے اندازہ لگا سکتا ہے)۔

شناخت اور رسائی کے انتظام کے دائرے میں، ڈیپ فیک کا پتہ لگانا ایک بڑھتی ہوئی ضرورت ہے - تخلیقی AI مصنوعی آوازیں اور ویڈیوز بنا سکتا ہے جو بائیو میٹرک سیکیورٹی کو بے وقوف بناتے ہیں۔ دلچسپ بات یہ ہے کہ جنریٹو اے آئی آڈیو یا ویڈیو میں موجود لطیف نمونوں کا تجزیہ کرکے ان ڈیپ فیکس کا پتہ لگانے میں بھی مدد کر سکتا ہے جن کا نوٹس لینا انسانوں کے لیے مشکل ہے۔ ہم نے Accenture کے ساتھ ایک مثال دیکھی، جس نے چہرے کے لاتعداد تاثرات اور حالات کی نقل کرنے کے لیے جنریٹو AI کا استعمال کیا تاکہ تربیت دی جا سکے۔ پانچ سالوں کے دوران، اس نقطہ نظر نے Accenture کو اپنے 90% سسٹمز کے پاس ورڈز کو ختم کرنے میں مدد کی (بائیو میٹرکس اور دیگر عوامل کی طرف جانا) اور حملوں کو 60% تک کم کیا ( 6 استعمال کے کیسز برائے جنریٹو AI in Cybersecurity [+ مثالیں] )۔ بنیادی طور پر، انہوں نے بایومیٹرک تصدیق کو مضبوط بنانے کے لیے جنریٹو اے آئی کا استعمال کیا، جس سے یہ جنریٹو حملوں کے خلاف لچکدار بناتا ہے (اے آئی فائٹنگ اے آئی کی ایک بہترین مثال)۔ اس قسم کے طرز عمل کی ماڈلنگ - اس معاملے میں ایک زندہ انسانی چہرے بمقابلہ AI کی ترکیب کے درمیان فرق کو پہچاننا - اہم ہے کیونکہ ہم تصدیق میں AI پر زیادہ انحصار کرتے ہیں۔

جنریٹو اے آئی کے ذریعے چلنے والی بے ضابطگی کا پتہ لگانے کا اطلاق تمام صنعتوں میں ہوتا ہے: صحت کی دیکھ بھال میں، ہیکنگ کی علامات کے لیے طبی آلات کے رویے کی نگرانی؛ فنانس میں، غیر قانونی نمونوں کے لیے تجارتی نظام کو دیکھنا جو دھوکہ دہی یا الگورتھمک ہیرا پھیری کی نشاندہی کر سکتے ہیں۔ توانائی/یوٹیلیٹیز میں، مداخلت کی علامات کے لیے کنٹرول سسٹم سگنلز کا مشاہدہ کرنا۔ وسعت (رویے کے تمام پہلوؤں کو دیکھنا) اور گہرائی (پیچیدہ نمونوں کو سمجھنا) کا امتزاج جو تخلیقی AI فراہم کرتا ہے اسے سائبر واقعے کے سوئی کے اندر گھاس کے اسٹیک اشارے کو تلاش کرنے کا ایک طاقتور ذریعہ بناتا ہے۔ جیسے جیسے خطرات چپکے ہوتے جاتے ہیں، عام کاموں کے درمیان چھپ جاتے ہیں، "نارمل" کی خاصیت اور جب کوئی چیز ہٹ جاتی ہے تو چیخنے کی یہ صلاحیت اہم ہو جاتی ہے۔ اس طرح جنریٹو AI ایک انتھک سنٹری کے طور پر کام کرتا ہے، ہمیشہ ماحول میں ہونے والی تبدیلیوں کے ساتھ رفتار برقرار رکھنے کے لیے معمول کی اپنی تعریف سیکھتا اور اپ ڈیٹ کرتا ہے، اور سیکیورٹی ٹیموں کو ان بے ضابطگیوں سے آگاہ کرتا ہے جو قریب سے معائنے کے قابل ہیں۔

سائبرسیکیوریٹی میں جنریٹو اے آئی کے مواقع اور فوائد

ان ٹولز کو اپنانے کے لیے تیار تنظیموں کے لیے بہت سے مواقع اور فوائد ذیل میں، ہم ان اہم فوائد کا خلاصہ کرتے ہیں جو جنریٹو AI کو سائبر سیکیورٹی پروگراموں میں ایک زبردست اضافہ بناتے ہیں:

• تیز تر خطرے کا پتہ لگانا اور جواب: جنریٹو اے آئی سسٹمز حقیقی وقت میں ڈیٹا کی وسیع مقدار کا تجزیہ کر سکتے ہیں اور دستی انسانی تجزیہ سے کہیں زیادہ تیزی سے خطرات کو پہچان سکتے ہیں۔ اس رفتار کے فائدہ کا مطلب ہے حملوں کا پہلے سے پتہ لگانا اور واقعے کی فوری روک تھام۔ عملی طور پر، AI سے چلنے والی سیکیورٹی مانیٹرنگ ایسے خطرات کو پکڑ سکتی ہے جن سے انسانوں کو آپس میں جڑنے میں زیادہ وقت لگتا ہے۔ واقعات کا فوری طور پر جواب دے کر (یا حتیٰ کہ خود مختار طور پر ابتدائی ردعمل کو انجام دینے سے)، تنظیمیں اپنے نیٹ ورکس میں حملہ آوروں کے رہنے کے وقت کو ڈرامائی طور پر کم کر سکتی ہیں، نقصان کو کم سے کم کر سکتی ہیں۔

• بہتر درستگی اور خطرے کی کوریج: چونکہ وہ مسلسل نئے ڈیٹا سے سیکھتے ہیں، اس لیے جنریٹیو ماڈلز ابھرتے ہوئے خطرات کے مطابق ڈھال سکتے ہیں اور بدنیتی پر مبنی سرگرمی کے باریک نشانات کو پکڑ سکتے ہیں۔ یہ جامد قواعد کے مقابلے میں بہتر پتہ لگانے کی درستگی (کم غلط منفی اور غلط مثبت) کی طرف جاتا ہے۔ مثال کے طور پر، ایک AI جس نے فشنگ ای میل یا مالویئر کے رویے کی خصوصیات کو جان لیا ہے، وہ مختلف قسموں کی شناخت کر سکتا ہے جو پہلے کبھی نہیں دیکھی گئی تھیں۔ اس کا نتیجہ خطرے کی اقسام کی وسیع تر کوریج ہے – جس میں نئے حملے بھی شامل ہیں – مجموعی طور پر حفاظتی کرنسی کو مضبوط کرتے ہیں۔ سیکیورٹی ٹیمیں AI تجزیہ سے بھی تفصیلی بصیرت حاصل کرتی ہیں (مثلاً میلویئر کے رویے کی وضاحت)، زیادہ درست اور ٹارگٹڈ ڈیفنسز ( سائبرسیکیوریٹی میں جنریٹو اے آئی کیا ہے؟ - پالو آلٹو نیٹ ورکس )۔

• دہرائے جانے والے کاموں کی آٹومیشن: جنریٹو AI خودکار روٹین، محنت سے بھرپور حفاظتی کاموں میں سبقت لے جاتا ہے - لاگز کے ذریعے کنگھی کرنے اور رپورٹس کو مرتب کرنے سے لے کر واقعے کے جوابی اسکرپٹ لکھنے تک۔ یہ آٹومیشن انسانی تجزیہ کاروں پر بوجھ کو کم کرتی ہے ، انہیں اعلیٰ سطحی حکمت عملی اور پیچیدہ فیصلہ سازی پر توجہ مرکوز کرنے کے لیے آزاد کرتی ہے ( سائبرسیکیوریٹی میں جنریٹو اے آئی کیا ہے؟ - پالو آلٹو نیٹ ورکس )۔ غیر معمولی لیکن اہم کام جیسے کمزوری کی اسکیننگ، کنفیگریشن آڈیٹنگ، صارف کی سرگرمیوں کا تجزیہ، اور تعمیل کی رپورٹنگ کو AI کے ذریعے ہینڈل کیا جا سکتا ہے (یا کم از کم پہلے مسودہ تیار کیا گیا)۔ مشین کی رفتار سے ان کاموں کو سنبھالنے سے، AI نہ صرف کارکردگی کو بہتر بناتا ہے بلکہ انسانی غلطی کو بھی کم کرتا ہے (خلاف ورزیوں کا ایک اہم عنصر)۔

• پرایکٹیو ڈیفنس اینڈ سمولیشن: جنریٹو اے آئی تنظیموں کو ری ایکٹیو سے پرو ایکٹیو سیکیورٹی میں منتقل ہونے کی اجازت دیتا ہے۔ اٹیک سمولیشن، مصنوعی ڈیٹا جنریشن، اور منظر نامے پر مبنی تربیت جیسی تکنیکوں کے ذریعے، محافظ حقیقی دنیا میں آنے سے پہلے سیکورٹی ٹیمیں سائبر حملوں (فشنگ مہمات، مالویئر کے پھیلنے، DDoS، وغیرہ) کو محفوظ ماحول میں اپنے ردعمل کو جانچنے اور کسی بھی کمزوری کو دور کرنے کے لیے نقل کر سکتی ہیں۔ یہ مسلسل تربیت، جو اکثر انسانی کوششوں سے مکمل طور پر کرنا ناممکن ہے، دفاع کو تیز اور تازہ ترین رکھتی ہے۔ یہ سائبر "فائر ڈرل" کے مترادف ہے - AI آپ کے دفاع پر بہت سے فرضی خطرات پھینک سکتا ہے تاکہ آپ مشق اور بہتری لا سکیں۔

• انسانی مہارت کو بڑھانا (اے آئی بطور فورس ضرب): جنریٹو اے آئی ایک انتھک جونیئر تجزیہ کار، مشیر، اور معاون کے طور پر کام کرتا ہے۔ یہ کم تجربہ کار ٹیم کے اراکین کو رہنمائی اور سفارشات فراہم کر سکتا ہے جس کی عام طور پر تجربہ کار ماہرین سے توقع کی جاتی ہے، جس سے پوری ٹیم میں مہارت کو مؤثر طریقے سے جمہوری بنایا جا سکتا ہے 6 سائبر سیکیورٹی میں جنریٹو AI کے لیے کیسز استعمال کریں [+ مثالیں] )۔ سائبرسیکیوریٹی میں ٹیلنٹ کی کمی کے پیش نظر یہ خاص طور پر قابل قدر ہے – AI چھوٹی ٹیموں کو کم کے ساتھ زیادہ کام کرنے میں مدد کرتا ہے۔ دوسری طرف، تجربہ کار تجزیہ کار، AI کو ہینڈل کرنے والے گرنٹ ورک اور غیر واضح بصیرت کو سرفیس کرنے سے فائدہ اٹھاتے ہیں، جس کی وہ پھر توثیق کر سکتے ہیں اور اس پر عمل کر سکتے ہیں۔ مجموعی نتیجہ ایک سیکیورٹی ٹیم ہے جو کہیں زیادہ نتیجہ خیز اور قابل ہے، جس میں AI ہر انسانی رکن کے اثرات کو بڑھاتا ہے ( سائبرسیکیوریٹی میں کس طرح جنریٹو AI کا استعمال کیا جا سکتا ہے )۔

• بہتر فیصلہ کی حمایت اور رپورٹنگ: تکنیکی ڈیٹا کو قدرتی زبان کی بصیرت میں ترجمہ کرکے، تخلیقی AI مواصلات اور فیصلہ سازی کو بہتر بناتا ہے۔ سیکیورٹی لیڈرز AI سے تیار کردہ خلاصوں کے ذریعے مسائل میں واضح مرئیت حاصل کرتے ہیں اور خام ڈیٹا کو پارس کرنے کی ضرورت کے بغیر باخبر اسٹریٹجک فیصلے کر سکتے ہیں۔ اسی طرح، کراس فنکشنل کمیونیکیشن (ایگزیکٹیو، کمپلائنس آفیسرز، وغیرہ سے) اس وقت بہتر ہوتا ہے جب AI سیکیورٹی پوزیشن اور واقعات کی آسانی سے سمجھنے والی رپورٹس تیار کرتا ہے ( سائبر سیکیورٹی میں جنریٹو اے آئی کو کس طرح استعمال کیا جا سکتا ہے؟ 10 حقیقی دنیا کی مثالیں )۔ اس سے نہ صرف قیادت کی سطح پر سیکورٹی کے معاملات پر اعتماد اور صف بندی پیدا ہوتی ہے بلکہ خطرات اور AI سے دریافت شدہ خلاء کو واضح طور پر بیان کرکے سرمایہ کاری اور تبدیلیوں کو جواز فراہم کرنے میں بھی مدد ملتی ہے۔

مجموعہ میں، ان فوائد کا مطلب یہ ہے کہ سائبرسیکیوریٹی میں جنریٹیو AI کا فائدہ اٹھانے والی تنظیمیں ممکنہ طور پر کم آپریٹنگ لاگت کے ساتھ ایک مضبوط سیکیورٹی پوزیشن حاصل کرسکتی ہیں۔ وہ ان خطرات کا جواب دے سکتے ہیں جو پہلے بہت زیادہ تھے، ایسے خلاء کو ڈھانپ سکتے ہیں جن کی نگرانی نہیں کی گئی تھی، اور AI سے چلنے والے فیڈ بیک لوپس کے ذریعے مسلسل بہتری لا سکتے ہیں۔ جدید حملوں کی رفتار، پیمانے، اور نفاست کو ملا کر مخالفین سے آگے نکلنے کا موقع فراہم کرتا ہے جیسا کہ ایک سروے میں پایا گیا ہے، نصف سے زیادہ کاروباری اور سائبر رہنما جنریٹو AI ( [ PDF سائبرسیکیوریٹی آؤٹ لک 2025

سائبرسیکیوریٹی میں جنریٹو اے آئی کے استعمال کے خطرات اور چیلنجز

اگرچہ مواقع اہم ہیں، سائبرسیکیوریٹی میں جنریٹیو AI تک رسائی حاصل کرنا بہت ضروری ہے اور اس میں شامل خطرات اور چیلنجوں AI پر اندھا اعتماد کرنا یا اس کا غلط استعمال کرنا نئی کمزوریوں کو متعارف کروا سکتا ہے۔ ذیل میں، ہم ہر ایک کے سیاق و سباق کے ساتھ اہم خدشات اور نقصانات کا خاکہ پیش کرتے ہیں:

• سائبر کرائمینلز کے ذریعہ مخالفانہ استعمال: وہی تخلیقی صلاحیتیں جو محافظوں کی مدد کرتی ہیں حملہ آوروں کو بااختیار بنا سکتی ہیں۔ دھمکی دینے والے اداکار پہلے سے ہی زیادہ قائل کرنے والی فشنگ ای میلز تیار کرنے، سوشل انجینئرنگ کے لیے جعلی پرسناس اور ڈیپ فیک ویڈیوز بنانے، پولیمورفک میلویئر تیار کرنے کے لیے جنریٹو AI کا استعمال کر رہے ہیں جو پتہ لگانے سے بچنے کے لیے مسلسل تبدیل ہوتے رہتے ہیں، اور یہاں تک کہ ہیکنگ کے پہلوؤں کو خودکار بناتے ہیں ( سائبرسیکیوریٹی میں جنریٹو AI کیا ہے؟ - Palo Alto Network )۔ سائبر سیکیورٹی کے تقریباً نصف (46%) رہنما اس بات پر فکر مند ہیں کہ جنریٹو AI مزید جدید مخالفانہ حملوں کا باعث بنے گا ( جنریٹو AI سیکیورٹی: رجحانات، خطرات اور تخفیف کی حکمت عملی )۔ اس "AI ہتھیاروں کی دوڑ" کا مطلب ہے کہ جیسے ہی محافظ AI کو اپناتے ہیں، حملہ آور زیادہ پیچھے نہیں ہوں گے (حقیقت میں، وہ غیر منظم AI ٹولز کا استعمال کرتے ہوئے کچھ علاقوں میں آگے ہو سکتے ہیں)۔ تنظیموں کو AI سے بڑھے ہوئے خطرات کے لیے تیار رہنا چاہیے جو زیادہ بار بار، نفیس اور ٹریس کرنا مشکل ہیں۔

• AI Hallucinations اور inaccuracy: جنریٹیو AI ماڈل ایسے نتائج پیدا کر سکتے ہیں جو قابل فہم لیکن غلط یا گمراہ کن – ایک ایسا رجحان جسے ہیلوسینیشن کہا جاتا ہے۔ سیکورٹی کے تناظر میں، ایک AI کسی واقعے کا تجزیہ کر سکتا ہے اور غلطی سے یہ نتیجہ اخذ کر سکتا ہے کہ کوئی خاص کمزوری اس کی وجہ تھی، یا یہ ایک خراب اصلاحی اسکرپٹ تیار کر سکتا ہے جو حملے پر قابو پانے میں ناکام رہتا ہے۔ یہ غلطیاں خطرناک ہو سکتی ہیں اگر ان کی قیمت پر کی جائے۔ جیسا کہ NTT ڈیٹا انتباہ کرتا ہے، "جنریٹو AI ممکنہ طور پر غلط مواد کو آؤٹ پٹ کر سکتا ہے، اور اس رجحان کو فریب نظر کہا جاتا ہے… فی الحال انہیں مکمل طور پر ختم کرنا مشکل ہے" ( جنریٹیو AI اور انسدادی اقدامات کے سیکیورٹی خطرات، اور سائبر سیکیورٹی پر اس کے اثرات | NTT DATA Group )۔ بغیر تصدیق کے AI پر زیادہ انحصار غلط سمت کی کوششوں یا تحفظ کے غلط احساس کا باعث بن سکتا ہے۔ مثال کے طور پر، ایک AI غلط طور پر کسی اہم نظام کو محفوظ کے طور پر جھنڈا لگا سکتا ہے جب یہ نہ ہو، یا اس کے برعکس، کسی خلاف ورزی کا "پتہ لگا کر" گھبراہٹ کا باعث بنتا ہے جو کبھی نہیں ہوا۔ اس خطرے کو کم کرنے کے لیے AI آؤٹ پٹس کی سخت توثیق اور اہم فیصلوں کے لیے انسانوں کا ہونا ضروری ہے۔

• غلط مثبت اور منفی: فریب سے متعلق، اگر کوئی AI ماڈل ناقص تربیت یافتہ ہے یا ترتیب دیا گیا ہے، تو یہ بے نظیر سرگرمی کو نقصان دہ (جھوٹے مثبت) کے طور پر رپورٹ کر یا اس سے بھی بدتر، حقیقی خطرات (جھوٹے منفی) کو یاد کر سکتا ہے ( سائبر سیکیورٹی میں جنریٹو AI کو کس طرح استعمال کیا جا سکتا ہے )۔ ضرورت سے زیادہ جھوٹے انتباہات سیکیورٹی ٹیموں کو مغلوب کر سکتے ہیں اور الرٹ تھکاوٹ کا باعث بن سکتے ہیں (اے آئی کے بہت زیادہ کارکردگی کے فوائد کو ختم کرنا)، جبکہ کھوئے ہوئے پتہ لگانے سے تنظیم بے نقاب ہو جاتی ہے۔ صحیح توازن کے لیے جنریٹو ماڈلز کو ٹیوننگ کرنا مشکل ہے۔ ہر ماحول منفرد ہوتا ہے، اور ایک AI فوری طور پر بہترین کارکردگی کا مظاہرہ نہیں کر سکتا۔ مسلسل سیکھنا بھی ایک دو دھاری تلوار ہے - اگر AI ٹیڑھے تاثرات سے سیکھتا ہے یا ایسے ماحول سے سیکھتا ہے جو بدلتا ہے، تو اس کی درستگی میں اتار چڑھاؤ آ سکتا ہے۔ سیکیورٹی ٹیموں کو AI کی کارکردگی کی نگرانی کرنی چاہیے اور حد کو ایڈجسٹ کرنا چاہیے یا ماڈلز کو اصلاحی فیڈ بیک فراہم کرنا چاہیے۔ ہائی اسٹیک سیاق و سباق میں (جیسے اہم انفراسٹرکچر کے لیے مداخلت کا پتہ لگانا)، AI تجاویز کو ایک مدت کے لیے موجودہ سسٹمز کے ساتھ متوازی طور پر چلانا ہوشیار ہو سکتا ہے، تاکہ یہ یقینی بنایا جا سکے کہ وہ تصادم کی بجائے سیدھ میں ہوں اور ان کی تکمیل کریں۔

• ڈیٹا پرائیویسی اور لیکیج: جنریٹیو AI سسٹمز کو اکثر تربیت اور آپریشن کے لیے بڑی مقدار میں ڈیٹا کی ضرورت ہوتی ہے۔ اگر یہ ماڈل کلاؤڈ بیسڈ ہیں یا مناسب طریقے سے سائلوڈ نہیں ہیں، تو حساس معلومات کے لیک ہونے کا خطرہ ہے۔ صارف نادانستہ طور پر ملکیتی ڈیٹا یا ذاتی ڈیٹا کو AI سروس میں فیڈ کر سکتے ہیں (سوچیں کہ ChatGPT سے ایک خفیہ واقعے کی رپورٹ کا خلاصہ کرنے کے لیے پوچھیں)، اور یہ ڈیٹا ماڈل کے علم کا حصہ بن سکتا ہے۔ درحقیقت، ایک حالیہ تحقیق میں پتا چلا ہے کہ جنریٹو AI ٹولز کے 55% ان پٹ حساس یا ذاتی طور پر قابل شناخت معلومات پر مشتمل ہیں ، جس سے ڈیٹا کے اخراج ( جنریٹو AI سیکیورٹی: رجحانات، خطرات اور تخفیف کی حکمت عملی ) کے بارے میں سنگین خدشات پیدا ہوئے ہیں۔ مزید برآں، اگر کسی AI کو اندرونی ڈیٹا پر تربیت دی گئی ہے اور اس سے مخصوص طریقوں سے استفسار کیا گیا ہے، تو یہ اس حساس ڈیٹا کے ٹکڑے کسی اور کو آؤٹ پٹ کر تنظیموں کو ڈیٹا ہینڈلنگ کی سخت پالیسیوں پر عمل درآمد کرنا چاہیے (مثلاً حساس مواد کے لیے آن پریمیس یا نجی AI مثالوں کا استعمال) اور ملازمین کو عوامی AI ٹولز میں خفیہ معلومات چسپاں نہ کرنے کے بارے میں تعلیم دیں۔ پرائیویسی ریگولیشنز (GDPR، وغیرہ) بھی عمل میں آتے ہیں - مناسب رضامندی یا تحفظ کے بغیر AI کو تربیت دینے کے لیے ذاتی ڈیٹا کا استعمال قوانین کی خلاف ورزی کر سکتا ہے۔

• ماڈل سیکیورٹی اور ہیرا پھیری: تخلیقی AI ماڈل خود ہدف بن سکتے ہیں۔ مخالف ماڈل پوائزننگ ، بدنیتی پر مبنی یا گمراہ کن ڈیٹا کھلانے کی کوشش کر سکتے ہیں تاکہ AI غلط پیٹرن سیکھے ( سائبرسیکیوریٹی میں جنریٹو اے آئی کو کس طرح استعمال کیا جا سکتا ہے )۔ مثال کے طور پر، ایک حملہ آور انٹیل ڈیٹا کو خطرناک طور پر زہر دے سکتا ہے تاکہ AI حملہ آور کے اپنے میلویئر کو نقصان دہ کے طور پر پہچاننے میں ناکام رہے۔ ایک اور حربہ فوری انجیکشن یا آؤٹ پٹ ہیرا پھیری ، جہاں حملہ آور AI کو ان پٹ جاری کرنے کا ایک طریقہ تلاش کرتا ہے جس کی وجہ سے وہ غیر ارادی طریقے سے برتاؤ کرتا ہے - شاید اس کے حفاظتی محافظوں کو نظر انداز کرنا یا ایسی معلومات کو ظاہر کرنا جو اسے نہیں کرنا چاہئے (جیسے اندرونی اشارے یا ڈیٹا)۔ ماڈل کی چوری کا خطرہ ہے : حملہ آور ان پٹ تیار کر رہے ہیں جو خاص طور پر AI کو بے وقوف بنانے کے لیے ڈیزائن کیے گئے ہیں۔ ہم اسے مخالف مثالوں میں دیکھتے ہیں - تھوڑا سا پریشان ڈیٹا جسے انسان نارمل سمجھتا ہے لیکن AI غلط درجہ بندی کرتا ہے۔ یہ یقینی بنانا کہ AI سپلائی چین محفوظ ہے (ڈیٹا انٹیگریٹی، ماڈل ایکسیس کنٹرول، مخالفانہ مضبوطی کی جانچ) سائبر سیکیورٹی کا ایک نیا لیکن ضروری حصہ ہے جب ان ٹولز کو تعینات کیا جاتا ہے ( سائبر سیکیورٹی میں جنریٹو اے آئی کیا ہے؟ - پالو آلٹو نیٹ ورکس )۔

• حد سے زیادہ انحصار اور ہنر کا کٹاؤ: اس بات کا ایک ہلکا خطرہ ہے کہ تنظیمیں AI پر حد سے زیادہ انحصار کر سکتی ہیں اور انسانی مہارتوں کو کمزور ہونے دیتی ہیں۔ اگر جونیئر تجزیہ کار AI کے نتائج پر آنکھیں بند کر کے بھروسہ کرتے ہیں، تو ہو سکتا ہے کہ وہ تنقیدی سوچ اور بصیرت پیدا نہ کر پائیں جس کے لیے AI دستیاب نہ ہو یا غلط ہو۔ ایک ایسا منظر جس سے بچنا ہے وہ سیکیورٹی ٹیم ہے جس کے پاس زبردست ٹولز ہیں لیکن یہ نہیں معلوم کہ اگر وہ ٹولز نیچے چلے جائیں تو کیسے کام کیا جائے (پائلٹوں کے مترادف ہے جو آٹو پائلٹ پر زیادہ انحصار کرتے ہیں)۔ AI کی مدد کے بغیر باقاعدہ تربیتی مشقیں اور اس ذہنیت کو پروان چڑھانا کہ AI ایک معاون ہے، نہ کہ ناقابل یقین اوریکل، انسانی تجزیہ کاروں کو تیز رکھنے کے لیے اہم ہیں۔ انسانوں کو حتمی فیصلہ ساز رہنا چاہیے، خاص طور پر اعلیٰ اثر والے فیصلوں کے لیے۔

• اخلاقی اور تعمیل کے چیلنجز: سائبر سیکیورٹی میں AI کا استعمال اخلاقی سوالات کو جنم دیتا ہے اور ریگولیٹری تعمیل کے مسائل کو متحرک کر سکتا ہے۔ مثال کے طور پر، اگر کوئی AI نظام کسی بے ضابطگی کی وجہ سے کسی ملازم کو غلط طور پر ایک بدنیتی پر مبنی اندرونی طور پر ملوث کرتا ہے، تو یہ اس شخص کی ساکھ یا کیریئر کو غیر منصفانہ طور پر نقصان پہنچا سکتا ہے۔ AI کے ذریعے کیے گئے فیصلے مبہم ہو سکتے ہیں ("بلیک باکس" کا مسئلہ)، جس سے آڈیٹرز یا ریگولیٹرز کو یہ بتانا مشکل ہو جاتا ہے کہ کچھ اقدامات کیوں کیے گئے۔ جیسا کہ AI سے تیار کردہ مواد زیادہ مقبول ہوتا جاتا ہے، شفافیت کو یقینی بنانا اور احتساب کو برقرار رکھنا بہت ضروری ہے۔ ریگولیٹرز AI کی جانچ پڑتال شروع کر رہے ہیں - مثال کے طور پر، EU کا AI ایکٹ "زیادہ خطرے والے" AI سسٹمز پر تقاضے عائد کرے گا، اور سائبر سیکیورٹی AI اس زمرے میں آ سکتا ہے۔ جنریٹیو AI کو ذمہ داری کے ساتھ استعمال کرنے کے لیے کمپنیوں کو ان ضوابط کو نیویگیٹ کرنے اور ممکنہ طور پر NIST AI رسک مینجمنٹ فریم ورک جیسے معیارات پر عمل کرنے کی ضرورت ہوگی ( جنریٹو AI کو سائبر سیکیورٹی میں کیسے استعمال کیا جا سکتا ہے؟ 10 حقیقی دنیا کی مثالیں )۔ تعمیل لائسنسنگ تک بھی پھیلی ہوئی ہے: اوپن سورس یا تھرڈ پارٹی ماڈل استعمال کرنے میں ایسی شرائط ہوسکتی ہیں جو کچھ استعمال کو محدود کرتی ہیں یا اشتراک میں بہتری کی ضرورت ہوتی ہے۔

خلاصہ یہ کہ جنریٹو AI سلور بلٹ نہیں ہے – اگر اسے احتیاط سے لاگو نہ کیا جائے تو یہ نئی کمزوریاں متعارف کرا سکتا ہے یہاں تک کہ یہ دوسروں کو حل کرتا ہے۔ 2024 کے ورلڈ اکنامک فورم کے ایک مطالعے پر روشنی ڈالی گئی ہے کہ ~ 47% تنظیمیں حملہ آوروں کی طرف سے جنریٹو AI میں پیشرفت کو بنیادی تشویش کے طور پر پیش کرتی ہیں، جس سے یہ سائبرسیکیوریٹی میں AI سے زیادہ اہم اثر" ۔ LLM کی... ) اس لیے تنظیموں کو ایک متوازن طریقہ اختیار کرنا چاہیے: گورننس، ٹیسٹنگ اور انسانی نگرانی کے ذریعے ان خطرات کا سختی سے انتظام کرتے ہوئے AI کے فوائد سے فائدہ اٹھانا۔ ہم اگلی بات کریں گے کہ عملی طور پر اس توازن کو کیسے حاصل کیا جائے۔

مستقبل کا آؤٹ لک: سائبر سیکیورٹی میں جنریٹو اے آئی کا ارتقاء پذیر کردار

آگے دیکھتے ہوئے، تخلیقی AI سائبر سیکیورٹی حکمت عملی کا ایک لازمی حصہ بننے کے لیے تیار ہے – اور اسی طرح، ایک ایسا ٹول جس کا سائبر مخالف استحصال جاری رکھیں گے۔ بلی اور ماؤس متحرک تیز ہو جائے گا، باڑ کے دونوں طرف AI کے ساتھ۔ آنے والے سالوں میں AI سائبرسیکیوریٹی کو کس طرح تشکیل دے سکتا ہے اس کے بارے میں کچھ منتظر بصیرتیں یہ ہیں:

• AI-Augmented Cyber ​​Defence معیاری بن گیا: 2025 تک اور اس کے بعد، ہم توقع کر سکتے ہیں کہ زیادہ تر درمیانے درجے سے لے کر بڑی تنظیموں نے اپنے حفاظتی کاموں میں AI سے چلنے والے ٹولز کو شامل کر لیا ہو گا۔ جس طرح آج اینٹی وائرس اور فائر والز معیاری ہیں، اسی طرح AI copilots اور بے ضابطگی کا پتہ لگانے کے نظام سیکورٹی فن تعمیر کے بنیادی اجزاء بن سکتے ہیں۔ یہ ٹولز ممکنہ طور پر زیادہ ماہر ہو جائیں گے - مثال کے طور پر، کلاؤڈ سیکیورٹی، IoT ڈیوائس مانیٹرنگ کے لیے، ایپلیکیشن کوڈ سیکیورٹی کے لیے، اور اسی طرح، تمام کنسرٹ میں کام کرنے والے الگ الگ AI ماڈلز ٹھیک ہیں۔ جیسا کہ ایک پیشین گوئی نوٹ کرتی ہے، "2025 میں، جنریٹو AI سائبرسیکیوریٹی کے لیے لازمی ہوگا، جس سے تنظیموں کو جدید ترین اور ابھرتے ہوئے خطرات کے خلاف فعال طور پر دفاع کرنے کے قابل بنایا جائے گا " AI حقیقی وقت میں خطرے کا پتہ لگانے میں اضافہ کرے گا، بہت سے ردعمل کی کارروائیوں کو خودکار بنائے گا، اور سیکیورٹی ٹیموں کو ڈیٹا کی بہت بڑی مقدار کا انتظام کرنے میں مدد کرے گا جتنا وہ دستی طور پر کر سکتے ہیں۔

• مسلسل سیکھنے اور موافقت: سیکھنے میں بہتر ہوں گے ، اپنے علم کی بنیاد کو قریب قریب حقیقی وقت میں اپ ڈیٹ کریں گے۔ یہ صحیح معنوں میں انکولی دفاع کی طرف لے جا سکتا ہے - ایک AI کا تصور کریں جو صبح اور دوپہر تک کسی دوسری کمپنی کو مارنے والی ایک نئی فشنگ مہم کے بارے میں سیکھتا ہے جس نے جواب میں آپ کی کمپنی کے ای میل فلٹرز کو پہلے ہی ایڈجسٹ کر لیا ہے۔ کلاؤڈ پر مبنی AI سیکیورٹی سروسز اس قسم کے اجتماعی سیکھنے کی سہولت فراہم کر سکتی ہیں، جہاں ایک تنظیم کی گمنام بصیرت تمام سبسکرائبرز کو فائدہ پہنچاتی ہے (انٹیل شیئرنگ کو خطرہ کے مترادف، لیکن خودکار)۔ تاہم، اس کے لیے حساس معلومات کا اشتراک کرنے سے بچنے کے لیے اور حملہ آوروں کو مشترکہ ماڈلز میں خراب ڈیٹا فیڈ کرنے سے روکنے کے لیے محتاط ہینڈلنگ کی ضرورت ہوگی۔

• اے آئی اور سائبرسیکیوریٹی ٹیلنٹ کا ہم آہنگی: سائبرسیکیوریٹی پیشہ ور افراد کی مہارت کا مجموعہ AI اور ڈیٹا سائنس میں مہارت کو شامل کرنے کے لیے تیار ہوگا۔ جس طرح آج کے تجزیہ کار استفسار کی زبانیں اور اسکرپٹ سیکھتے ہیں، اسی طرح کل کے تجزیہ کار AI کے ماڈلز کو باقاعدگی سے ٹھیک کر سکتے ہیں یا AI کو چلانے کے لیے "playbooks" لکھ سکتے ہیں۔ "AI سیکیورٹی ٹرینر" یا "سائبرسیکیوریٹی AI انجینئر" جیسے نئے کردار دیکھ سکتے ہیں – وہ لوگ جو AI ٹولز کو کسی تنظیم کی ضروریات کے مطابق ڈھالنے، ان کی کارکردگی کی توثیق کرنے، اور وہ محفوظ طریقے سے کام کرنے کو یقینی بنانے میں مہارت رکھتے ہیں۔ دوسری طرف، سائبر سیکیورٹی کے تحفظات تیزی سے AI کی ترقی کو متاثر کریں گے۔ AI سسٹمز کو گراؤنڈ اپ سے سیکیورٹی خصوصیات کے ساتھ بنایا جائے گا (محفوظ فن تعمیر، چھیڑ چھاڑ کا پتہ لگانا، AI فیصلوں کے لیے آڈٹ لاگز وغیرہ)، اور قابل اعتماد AI (منصفانہ، قابل وضاحت، مضبوط اور محفوظ) ان کی تعیناتی کی حفاظت کے لیے اہم سیاق و سباق میں رہنمائی کریں گے۔

• مزید جدید ترین AI سے چلنے والے حملے: بدقسمتی سے، خطرے کا منظر نامہ بھی AI کے ساتھ تیار ہوگا۔ ہم توقع کرتے ہیں کہ صفر دن کی کمزوریوں کو دریافت کرنے، انتہائی ٹارگٹڈ اسپیئر فشنگ کو تیار کرنے کے لیے (مثلاً AI بالکل موزوں بیت بنانے کے لیے سوشل میڈیا کو اسکریپ کرنا)، اور بایومیٹرک تصدیق کو نظرانداز کرنے یا دھوکہ دہی کا ارتکاب کرنے کے لیے قائل کرنے والی گہری جعلی آوازیں یا ویڈیوز تیار کرنے کے لیے۔ خودکار ہیکنگ ایجنٹس ابھر سکتے ہیں جو آزادانہ طور پر کم سے کم انسانی نگرانی کے ساتھ ملٹی اسٹیج حملے (تفریح، استحصال، پس منظر کی نقل و حرکت وغیرہ) کر سکتے ہیں۔ اس سے محافظوں پر AI پر بھی انحصار کرنے کا دباؤ پڑے گا - بنیادی طور پر آٹومیشن بمقابلہ آٹومیشن ۔ کچھ حملے مشین کی رفتار سے ہو سکتے ہیں، جیسے کہ AI بوٹس ایک ہزار فشنگ ای میل کی تبدیلیوں کی کوشش کر رہے ہیں تاکہ یہ معلوم ہو سکے کہ کون سا ماضی فلٹر حاصل کرتا ہے۔ سائبر ڈیفنس کو برقرار رکھنے کے لیے اسی رفتار اور لچک سے کام کرنے کی ضرورت ہوگی ( سائبر سیکیورٹی میں جنریٹو اے آئی کیا ہے؟ - پالو آلٹو نیٹ ورکس )۔

• سیکیورٹی میں ضابطہ اور اخلاقی AI: جیسا کہ AI سائبر سیکیورٹی کے افعال میں گہرائی سے سرایت کرتا ہے، اس بات کو یقینی بنانے کے لیے زیادہ جانچ پڑتال اور ممکنہ طور پر ریگولیشن ہو گا کہ ان AI سسٹمز کو ذمہ داری سے استعمال کیا جائے۔ ہم سیکورٹی میں AI سے مخصوص فریم ورک اور معیارات کی توقع کر سکتے ہیں۔ حکومتیں شفافیت کے لیے رہنما خطوط متعین کر سکتی ہیں - مثال کے طور پر، ضروری ہے کہ اہم حفاظتی فیصلے (جیسے مشتبہ بدنیتی پر مبنی سرگرمی کے لیے ملازم کی رسائی کو ختم کرنا) انسانی جائزہ کے بغیر اکیلے AI نہیں کر سکتا۔ خریداروں کو یقین دلانے کے لیے AI سیکیورٹی پروڈکٹس کے لیے سرٹیفیکیشن بھی ہو سکتے ہیں کہ AI کا تعصب، مضبوطی اور حفاظت کے لیے جائزہ لیا گیا ہے۔ مزید برآں، بین الاقوامی تعاون AI سے متعلقہ سائبر خطرات کے گرد بڑھ سکتا ہے۔ مثال کے طور پر، AI سے تیار کردہ غلط معلومات سے نمٹنے کے معاہدے یا AI سے چلنے والے کچھ سائبر ہتھیاروں کے خلاف اصول۔

• وسیع تر AI اور IT ایکو سسٹم کے ساتھ انضمام: سائبر سیکیورٹی میں جنریٹو AI ممکنہ طور پر دوسرے AI سسٹمز اور IT مینجمنٹ ٹولز کے ساتھ ضم ہو جائے گا۔ مثال کے طور پر، ایک AI جو نیٹ ورک کی اصلاح کا انتظام کرتا ہے وہ سیکیورٹی AI کے ساتھ کام کر سکتا ہے تاکہ یہ یقینی بنایا جا سکے کہ تبدیلیاں خامیاں نہیں کھولتی ہیں۔ AI سے چلنے والے کاروباری تجزیات بے ضابطگیوں کو مربوط کرنے کے لیے سیکیورٹی AIs کے ساتھ ڈیٹا کا اشتراک کر سکتے ہیں (جیسے حملے کی وجہ سے ویب سائٹ کے ممکنہ مسئلے کے ساتھ فروخت میں اچانک کمی)۔ جوہر میں، AI ایک سائلو میں نہیں رہے گا - یہ کسی تنظیم کے آپریشنز کے بڑے ذہین تانے بانے کا حصہ ہوگا۔ اس سے مجموعی رسک مینجمنٹ کے مواقع کھلتے ہیں جہاں آپریشنل ڈیٹا، تھریٹ ڈیٹا، اور یہاں تک کہ فزیکل سیکیورٹی ڈیٹا کو بھی AI کے ذریعے جوڑ کر تنظیمی سیکیورٹی پوزیشن کا 360-ڈگری منظر پیش کیا جا سکتا ہے۔

طویل مدتی میں، امید ہے کہ تخلیقی AI محافظوں کے حق میں توازن کو جھکانے میں مدد کرے گا۔ جدید IT ماحول کے پیمانے اور پیچیدگی کو سنبھال کر، AI سائبر اسپیس کو زیادہ قابل دفاع بنا سکتا ہے۔ تاہم، یہ ایک سفر ہے، اور جب ہم ان ٹیکنالوجیز کو بہتر بناتے ہیں اور مناسب طریقے سے ان پر بھروسہ کرنا سیکھتے ہیں تو تکلیفیں بڑھ رہی ہوں گی۔ وہ تنظیمیں جو باخبر رہتی ہیں اور ذمہ دار AI کو اپنانے ، وہ ممکنہ طور پر مستقبل کے خطرات سے نمٹنے کے لیے بہترین پوزیشن میں ہوں گی۔

جیسا کہ گارٹنر کی حالیہ سائبرسیکیوریٹی رجحانات کی رپورٹ میں بتایا گیا ہے، "جنریٹیو AI کے استعمال کے معاملات (اور خطرات) کا ظہور تبدیلی کے لیے دباؤ پیدا کر رہا ہے" ( سائبر سیکیورٹی کے رجحانات: تبدیلی کے ذریعے لچک - گارٹنر )۔ جو لوگ موافقت کرتے ہیں وہ AI کو ایک طاقتور اتحادی کے طور پر استعمال کریں گے۔ جو لوگ پیچھے رہ جاتے ہیں وہ خود کو AI سے بااختیار مخالفین سے آگے نکل سکتے ہیں۔ اگلے چند سال اس بات کی وضاحت کرنے میں اہم وقت ہوں گے کہ AI سائبر جنگ کے میدان کو کس طرح نئی شکل دیتا ہے۔

سائبرسیکیوریٹی میں جنریٹو اے آئی کو اپنانے کے لیے عملی اقدامات

ان کاروباروں کے لیے جو اپنی سائبرسیکیوریٹی حکمت عملی میں جنریٹو AI کا فائدہ اٹھاتے ہیں، ذمہ دار اور موثر اپنانے کی رہنمائی کے لیے عملی طریقے اور سفارشات

1. تعلیم اور تربیت کے ساتھ شروع کریں: یقینی بنائیں کہ آپ کی سیکیورٹی ٹیم (اور وسیع تر IT عملہ) یہ سمجھتی ہے کہ تخلیقی AI کیا کر سکتا ہے اور کیا نہیں کر سکتا۔ AI سے چلنے والے سیکیورٹی ٹولز کی بنیادی باتوں کے بارے میں تربیت فراہم کریں اور تمام ملازمین کے لیے AI سے چلنے والے خطرات کا احاطہ کرنے کے لیے سیکیورٹی آگاہی پروگراموں کو مثال کے طور پر، عملے کو سکھائیں کہ کس طرح AI انتہائی قائل فشنگ سکیمز اور ڈیپ فیک کالز پیدا کر سکتا ہے۔ اس کے ساتھ ہی، ملازمین کو ان کے کام میں AI ٹولز کے محفوظ اور منظور شدہ استعمال کی تربیت دیں۔ اچھی طرح سے باخبر صارفین کے AI کو غلط طریقے سے سنبھالنے یا AI کے بڑھے ہوئے حملوں کا شکار ہونے کا امکان کم ہوتا ہے ( سائبرسیکیوریٹی میں جنریٹو AI کا استعمال کیسے کیا جا سکتا ہے؟ 10 حقیقی دنیا کی مثالیں )۔

2. واضح AI کے استعمال کی پالیسیوں کی وضاحت کریں: تخلیقی AI کو کسی بھی طاقتور ٹیکنالوجی کی طرح برتاؤ - گورننس کے ساتھ۔ ایسی پالیسیاں تیار کریں جو یہ بتاتی ہوں کہ کون AI ٹولز استعمال کر سکتا ہے، کون سے ٹولز کی منظوری دی گئی ہے، اور کن مقاصد کے لیے۔ حساس ڈیٹا کو ہینڈل کرنے کے بارے میں رہنما خطوط شامل کریں (مثلاً بیرونی AI سروسز میں فیڈ نہ کریں مثال کے طور پر، آپ صرف سیکیورٹی ٹیم کے اراکین کو واقعے کے ردعمل کے لیے اندرونی AI اسسٹنٹ استعمال کرنے کی اجازت دے سکتے ہیں، اور مارکیٹنگ مواد کے لیے جانچ شدہ AI استعمال کر سکتی ہے – باقی سب پر پابندی ہے۔ بہت سی تنظیمیں اب واضح طور پر اپنی IT پالیسیوں میں جنریٹو AI کو ایڈریس کر رہی ہیں، اور سرکردہ اسٹینڈرڈ باڈیز سراسر پابندی کے بجائے محفوظ استعمال کی پالیسیوں کی حوصلہ افزائی کرتی ہیں ( سائبرسیکیوریٹی میں جنریٹو AI کو کیسے استعمال کیا جا سکتا ہے؟ 10 حقیقی دنیا کی مثالیں )۔ ان اصولوں اور ان کے پیچھے کی دلیل کو تمام ملازمین تک پہنچانا یقینی بنائیں۔

3. "شیڈو اے آئی" اور مانیٹر کے استعمال کو کم کریں: شیڈو آئی ٹی کی طرح، "شیڈو اے آئی" اس وقت پیدا ہوتا ہے جب ملازمین آئی ٹی کی معلومات کے بغیر AI ٹولز یا خدمات کا استعمال شروع کرتے ہیں (مثلاً ایک ڈویلپر غیر مجاز AI کوڈ اسسٹنٹ کا استعمال کرتا ہے)۔ یہ نادیدہ خطرات متعارف کرا سکتا ہے۔ غیر منظور شدہ AI کے استعمال کا پتہ لگانے اور کنٹرول کرنے کے لیے اقدامات کو نافذ کریں ۔ نیٹ ورک کی نگرانی مقبول AI APIs کے کنکشن کو جھنڈا دے سکتی ہے، اور سروے یا ٹول آڈٹ اس بات کا پتہ لگا سکتے ہیں کہ عملہ کیا استعمال کر رہا ہے۔ منظور شدہ متبادل پیش کریں تاکہ نیک نیتی والے ملازمین بدمعاش بننے کے لیے لالچ میں نہ آئیں (مثال کے طور پر، اگر لوگوں کو یہ مفید لگے تو ایک آفیشل ChatGPT انٹرپرائز اکاؤنٹ فراہم کریں)۔ AI کے استعمال کو روشنی میں لا کر، سیکورٹی ٹیمیں خطرے کا اندازہ اور انتظام کر سکتی ہیں۔ مانیٹرنگ بھی کلیدی چیز ہے - AI ٹول کی سرگرمیوں اور آؤٹ پٹ کو جتنا ممکن ہو لاگ ان کریں، اس لیے AI سے متاثر ہونے والے فیصلوں کے لیے ایک آڈٹ ٹریل موجود ہے ( سائبرسیکیوریٹی میں جنریٹو AI کو کیسے استعمال کیا جا سکتا ہے؟ 10 حقیقی دنیا کی مثالیں )۔

4. AI کا دفاعی فائدہ اٹھائیں - پیچھے نہ پڑیں: تسلیم کریں کہ حملہ آور AI کا استعمال کریں گے، لہذا آپ کا دفاع بھی ہونا چاہیے۔ کچھ زیادہ اثر والے علاقوں کی نشاندہی کریں جہاں جنریٹیو AI آپ کے سیکیورٹی آپریشنز (شاید الرٹ ٹریج، یا خودکار لاگ تجزیہ) کی مدد کر سکتا ہے اور پائلٹ پروجیکٹ چلا سکتا ہے۔ تیزی سے آگے بڑھنے والے خطرات کا مقابلہ کرنے کے لیے AI کی رفتار اور پیمانے کے ساتھ اپنے دفاع کو بڑھائیں سائبر سیکیورٹی میں جنریٹو AI کا استعمال کیسے کیا جا سکتا ہے؟ 10 حقیقی دنیا کی مثالیں )۔ یہاں تک کہ سادہ انضمام، جیسے میلویئر رپورٹس کا خلاصہ کرنے یا خطرے کے شکار کے سوالات پیدا کرنے کے لیے AI کا استعمال، تجزیہ کاروں کے گھنٹے بچا سکتے ہیں۔ چھوٹی شروعات کریں، نتائج کا اندازہ کریں، اور اعادہ کریں۔ کامیابیاں AI کو وسیع تر اپنانے کے لیے کیس تیار کریں گی۔ مقصد یہ ہے کہ AI کو طاقت کے ضرب کے طور پر استعمال کیا جائے – مثال کے طور پر، اگر فشنگ کے حملے آپ کے ہیلپ ڈیسک پر حاوی ہو رہے ہیں، تو اس حجم کو فعال طور پر کم کرنے کے لیے ایک AI ای میل کلاسیفائر تعینات کریں۔

5. محفوظ اور اخلاقی AI طریقوں میں سرمایہ کاری کریں: تخلیقی AI کو لاگو کرتے وقت، محفوظ ترقی اور تعیناتی کے طریقوں پر عمل کریں۔ ڈیٹا پر کنٹرول برقرار رکھنے کے لیے حساس کاموں کے لیے نجی یا خود میزبان ماڈلز کا استعمال کریں اگر تھرڈ پارٹی AI سروسز استعمال کر رہے ہیں، تو ان کی حفاظت اور رازداری کے اقدامات (انکرپشن، ڈیٹا برقرار رکھنے کی پالیسیاں وغیرہ) کا جائزہ لیں۔ AI رسک مینجمنٹ فریم ورک (جیسے NIST کا AI رسک مینجمنٹ فریم ورک یا ISO/IEC رہنمائی) شامل کریں تاکہ آپ کے AI ٹولز میں تعصب، وضاحت کی اہلیت، اور مضبوطی جیسی چیزوں کو منظم طریقے سے حل کیا جا سکے ( جنریٹو AI کو سائبر سیکیورٹی میں کیسے استعمال کیا جا سکتا ہے؟ 10 حقیقی دنیا کی مثالیں )۔ دیکھ بھال کے حصے کے طور پر ماڈل اپ ڈیٹس/پیچز کے لیے بھی منصوبہ بندی کریں - AI ماڈلز میں بھی "خطرناکیاں" ہو سکتی ہیں (مثال کے طور پر اگر وہ بہتے ہوئے شروع ہو جائیں یا اگر ماڈل پر کوئی نئی قسم کا مخالفانہ حملہ دریافت ہو جائے تو انہیں دوبارہ تربیت کی ضرورت ہو سکتی ہے)۔ سیکیورٹی اور اخلاقیات کو اپنے AI کے استعمال میں شامل کرکے، آپ نتائج پر اعتماد پیدا کرتے ہیں اور ابھرتے ہوئے ضوابط کی تعمیل کو یقینی بناتے ہیں۔

6. انسانوں کو لوپ میں رکھیں: سائبرسیکیوریٹی میں انسانی فیصلے کی مدد کے لیے AI کا استعمال کریں، مکمل طور پر بدلنے کے لیے نہیں۔ فیصلہ کن نکات کا تعین کریں جہاں انسانی توثیق کی ضرورت ہے (مثال کے طور پر، ایک AI واقعہ کی رپورٹ کا مسودہ تیار کر سکتا ہے، لیکن ایک تجزیہ کار تقسیم سے پہلے اس کا جائزہ لیتا ہے؛ یا ایک AI کسی صارف کے اکاؤنٹ کو بلاک کرنے کا مشورہ دے سکتا ہے، لیکن انسان اس کارروائی کو منظور کرتا ہے)۔ یہ نہ صرف AI کی غلطیوں کو چیک کیے جانے سے روکتا ہے، بلکہ آپ کی ٹیم کو AI سے سیکھنے میں بھی مدد کرتا ہے اور اس کے برعکس۔ باہمی تعاون پر مبنی ورک فلو کی حوصلہ افزائی کریں: تجزیہ کاروں کو AI آؤٹ پٹس کے بارے میں سوال کرنے اور سنٹی چیک کرنے میں آرام محسوس کرنا چاہیے۔ وقت گزرنے کے ساتھ، یہ ڈائیلاگ AI (فیڈ بیک کے ذریعے) اور تجزیہ کاروں کی مہارت دونوں کو بہتر بنا سکتا ہے۔ بنیادی طور پر، اپنے عمل کو اس طرح ڈیزائن کریں کہ AI اور انسانی قوتیں ایک دوسرے کی تکمیل کریں - AI حجم اور رفتار کو سنبھالتا ہے، انسان ابہام اور حتمی فیصلوں کو سنبھالتے ہیں۔

7. پیمائش کریں، مانیٹر کریں اور ایڈجسٹ کریں: آخر میں، اپنے جنریٹیو AI ٹولز کو اپنے سیکیورٹی ایکو سسٹم کے زندہ اجزاء کے طور پر سمجھیں۔ ان کی کارکردگی کی مسلسل - کیا وہ واقعے کے ردعمل کے اوقات کو کم کر رہے ہیں؟ پہلے دھمکیوں کو پکڑنا؟ غلط مثبت شرح کا رجحان کیسا ہے؟ ٹیم سے رائے طلب کریں: کیا AI کی سفارشات کارآمد ہیں، یا یہ شور مچا رہی ہیں؟ ماڈلز کو بہتر بنانے، ٹریننگ ڈیٹا کو اپ ڈیٹ کرنے، یا AI کو مربوط کرنے کے طریقے کو ایڈجسٹ کرنے کے لیے ان میٹرکس کا استعمال کریں۔ سائبر خطرات اور کاروباری ضروریات تیار ہوتی ہیں، اور مؤثر رہنے کے لیے آپ کے AI ماڈلز کو وقتاً فوقتاً اپ ڈیٹ یا دوبارہ تربیت دی جانی چاہیے۔ ماڈل گورننس کے لیے ایک منصوبہ بنائیں، بشمول اس کی دیکھ بھال کے لیے کون ذمہ دار ہے اور کتنی بار اس کا جائزہ لیا جاتا ہے۔ AI کے لائف سائیکل کو فعال طور پر منظم کرکے، آپ اس بات کو یقینی بناتے ہیں کہ یہ ایک اثاثہ رہے، ذمہ داری نہیں۔

آخر میں، تخلیقی AI سائبر سیکیورٹی کی صلاحیتوں کو نمایاں طور پر بڑھا سکتا ہے، لیکن کامیاب اپنانے کے لیے سوچ سمجھ کر منصوبہ بندی اور مسلسل نگرانی کی ضرورت ہوتی ہے۔ وہ کاروبار جو اپنے لوگوں کو تعلیم دیتے ہیں، واضح رہنما خطوط مرتب کرتے ہیں، اور AI کو متوازن، محفوظ طریقے سے مربوط کرتے ہیں، وہ تیز تر، بہتر خطرے کے انتظام کے انعامات حاصل کریں گے۔ وہ ٹیک وے ایک روڈ میپ فراہم کرتے ہیں: انسانی مہارت کو AI آٹومیشن کے ساتھ جوڑیں، گورننس کی بنیادی باتوں کا احاطہ کریں، اور چستی کو برقرار رکھیں کیونکہ AI ٹیکنالوجی اور خطرے کا منظر نامہ دونوں لامحالہ تیار ہوتے ہیں۔

یہ عملی اقدامات اٹھا کر، تنظیمیں اعتماد کے ساتھ اس سوال کا جواب دے سکتی ہیں کہ "سائبر سیکیورٹی میں جنریٹو AI کا استعمال کیسے کیا جا سکتا ہے؟" - نہ صرف نظریہ میں، بلکہ روزمرہ کی مشق میں - اور اس طرح ہماری تیزی سے ڈیجیٹل اور AI سے چلنے والی دنیا میں اپنے دفاع کو مضبوط کریں۔ ( سائبرسیکیوریٹی میں جنریٹو اے آئی کو کس طرح استعمال کیا جا سکتا ہے )

وائٹ پیپرز جو آپ اس کے بعد پڑھنا پسند کر سکتے ہیں:

🔗 وہ نوکریاں جو AI تبدیل نہیں کر سکتی اور AI کونسی نوکریاں بدلیں گی؟
عالمی نقطہ نظر کو دریافت کریں کہ کون سے کردار آٹومیشن سے محفوظ ہیں اور کون سے نہیں۔

🔗 کیا AI اسٹاک مارکیٹ کی پیش گوئی کر سکتا ہے؟
مارکیٹ کی چالوں کی پیشن گوئی کرنے کی AI کی صلاحیت کے ارد گرد کی حدود، کامیابیاں، اور خرافات پر گہری نظر۔

🔗 انسانی مداخلت کے بغیر جنریٹو AI پر کیا انحصار کیا جا سکتا ہے؟
سمجھیں کہ کہاں AI آزادانہ طور پر کام کر سکتا ہے اور جہاں انسانی نگرانی ابھی بھی ضروری ہے۔