कनाडाई साइबर अधिकारी का दावा है कि दुर्भावनापूर्ण सॉफ़्टवेयर बनाने के लिए AI का दुरुपयोग किया जा रहा है
हैकर्स और प्रचारक आगे बढ़ रहे हैं कृत्रिम बुद्धिमत्ता (एआई) कनाडा के शीर्ष साइबर सुरक्षा अधिकारी ने रॉयटर्स को बताया कि इस बात के शुरुआती सबूत हैं कि साइबर अपराधियों ने दुर्भावनापूर्ण सॉफ़्टवेयर बनाने, फ़िशिंग ईमेल का मसौदा तैयार करने और ऑनलाइन दुष्प्रचार फैलाने के लिए सिलिकॉन वैली में व्यापक तकनीकी क्रांति को भी अपनाया है।
इस सप्ताह एक साक्षात्कार में, कैनेडियन सेंटर फॉर साइबर सिक्योरिटी के प्रमुख सामी खौरी ने कहा कि उनकी एजेंसी ने एआई का उपयोग “फ़िशिंग ईमेल या अधिक केंद्रित ईमेल में, दुर्भावनापूर्ण कोड (और) में दुष्प्रचार और गलत सूचना देने के लिए किया है।”
खुरी ने विवरण या सबूत नहीं दिया, लेकिन उनका दावा है कि साइबर अपराधी पहले से ही एआई का उपयोग कर रहे हैं, जो दुष्ट अभिनेताओं द्वारा उभरती प्रौद्योगिकियों के उपयोग के बारे में तत्काल चिंता का विषय है।
हाल के महीनों में कई साइबर वॉचडॉग समूहों ने एआई के कथित जोखिमों के बारे में चेतावनी देते हुए रिपोर्ट प्रकाशित की हैं – विशेष रूप से, तेजी से उन्नत भाषा प्रसंस्करण कार्यक्रम जिन्हें बड़े भाषा मॉडल (एलएलएम) के रूप में जाना जाता है, जो बड़ी मात्रा में पाठ उत्पन्न करके ठोस संवाद, दस्तावेज़ और बहुत कुछ उत्पन्न करते हैं।
मार्च में, यूरोपोल पुलिस संगठन यूरोपोल ने एक रिपोर्ट प्रकाशित की जिसमें मॉडल जैसे ओपनएआईका चैटजीपीटी “केवल अंग्रेजी भाषा की बुनियादी समझ के साथ भी किसी संगठन या व्यक्ति का बहुत यथार्थवादी तरीके से प्रतिरूपण करना संभव है”। उसी महीने, ब्रिटेन के राष्ट्रीय साइबर सुरक्षा केंद्र ने एक ब्लॉग पोस्ट में कहा कि अपराधी “अपनी वर्तमान क्षमताओं से परे साइबर हमलों को सुविधाजनक बनाने के लिए एलएलएम का उपयोग कर सकते हैं।”
साइबर सुरक्षा शोधकर्ताओं ने संभावित दुर्भावनापूर्ण उपयोग के विभिन्न मामलों का प्रदर्शन किया है, और कुछ अब कहते हैं कि वे जंगल में संदिग्ध एआई-जनित सामग्री देख रहे हैं। पिछले हफ्ते, एक पूर्व हैकर ने कहा कि उसे दुर्भावनापूर्ण सामग्री में प्रशिक्षित एलएलएम मिला और उसने किसी को नकदी हस्तांतरित करने के लिए धोखा देने का एक विश्वसनीय प्रयास करने के लिए कहा।
एलएलएम ने तीन-पैराग्राफ वाले ईमेल के साथ जवाब दिया और अपने लक्ष्य से तत्काल मुद्रा सहायता मांगी।
एलएलएम ने कहा, “मुझे एहसास है कि यह अल्प सूचना हो सकती है, लेकिन यह भुगतान अविश्वसनीय रूप से महत्वपूर्ण है और इसे अगले 24 घंटों के भीतर किया जाना चाहिए।”
खुरे ने कहा कि जबकि दुर्भावनापूर्ण कोड का मसौदा तैयार करने के लिए एआई का उपयोग अभी भी शुरुआती चरण में है – “अभी भी एक रास्ता तय करना बाकी है क्योंकि एक अच्छा शोषण लिखने के लिए बहुत कुछ करना पड़ता है” – चिंता थी कि एआई मॉडल इतनी तेजी से विकसित हो रहे थे कि जंगली में छोड़े जाने से पहले उनकी दुर्भावनापूर्ण क्षमता को नियंत्रित करना मुश्किल था।
“कौन जानता है कि क्या होने वाला है,” उन्होंने कहा।
