इस गाइड में, जनरेटिव एआई (GenAI) का इस्तेमाल करके Android ऐप्लिकेशन बनाने वाले डेवलपर के लिए ज़रूरी जानकारी दी गई है. GenAI को इंटिग्रेट करने से जुड़ी कुछ खास चुनौतियां हैं. ये चुनौतियां, सॉफ़्टवेयर डेवलपमेंट से जुड़ी सामान्य चुनौतियों से अलग हैं.
एआई से जुड़े नए और बढ़ते जोखिमों को ध्यान में रखते हुए, इस गाइड को लगातार अपडेट किया जाता है. इस कॉन्टेंट का इस्तेमाल करके, अपने ऐप्लिकेशन में जेन एआई की सुविधाओं को इंटिग्रेट करने से जुड़े अहम जोखिमों के बारे में जानें. साथ ही, जोखिमों को कम करने की असरदार रणनीतियों के बारे में जानें.
प्रॉम्प्ट इंजेक्शन
हमलावर, नुकसान पहुंचाने वाले इनपुट (प्रॉम्प्ट) तैयार करता है, ताकि मॉडल को सुरक्षा और सुरक्षा से जुड़ी नीतियों को बायपास करने या अनचाही कार्रवाइयां करने के लिए गुमराह किया जा सके. हमले के सफल होने पर, मॉडल संवेदनशील डेटा का खुलासा कर सकता है, नुकसान पहुंचाने वाला कॉन्टेंट जनरेट कर सकता है या अनचाही कार्रवाइयां कर सकता है. इससे उपयोगकर्ता का भरोसा कम हो सकता है. प्रॉम्प्ट इंजेक्शन अटैक को कम करने का तरीका जानें.
संवेदनशील जानकारी का खुलासा
जनरेटिव एआई मॉडल से, संवेदनशील जानकारी के ज़ाहिर होने का खतरा बढ़ जाता है. इससे एलएलएम और उसके ऐप्लिकेशन कॉन्टेक्स्ट, दोनों पर असर डालने वाला डेटा लीक हो सकता है. मॉडल के इस गोपनीय डेटा को अन्य उपयोगकर्ताओं के साथ शेयर करने पर, डेटा लीक हो सकता है. इसके अलावा, मशीन लर्निंग ऐज़ अ सर्विस (एमएलएएएस) की सुविधा देने वाली कंपनियां, प्रॉम्प्ट को असुरक्षित तरीके से सेव करती हैं. साथ ही, जब बुरे इरादे वाले लोग सिस्टम का गलत इस्तेमाल करके, इंटरनल लॉजिक का पता लगाते हैं, तब भी डेटा लीक हो सकता है. इसके गंभीर नतीजे हो सकते हैं. जैसे, बौद्धिक संपदा के अधिकारों का उल्लंघन, कानूनी जुर्माने (उदाहरण के लिए, जीडीपीआर, सीसीपीए), उपयोगकर्ताओं का भरोसा पूरी तरह से खत्म होना, और सिस्टम से समझौता करना. संवेदनशील जानकारी के ज़ाहिर होने के जोखिम को कम करने का तरीका जानें.
एजेंसी का बहुत ज़्यादा दख़ल
कार्रवाइयां करने के लिए, LLM एजेंट को फ़ंक्शन या टूल के साथ इंटिग्रेट करने से सुरक्षा से जुड़े जोखिम पैदा हो सकते हैं. फ़ंक्शन कॉलिंग का गलत इस्तेमाल करने वाले नुकसान पहुंचाने वाले प्रॉम्प्ट की वजह से, अनजाने में डेटा का नुकसान हो सकता है. नुकसान पहुंचाने वाली एआई कार्रवाइयों को रोकने के लिए, डेवलपर को सुरक्षा उपायों (जैसे, उपयोगकर्ता की सहमति, पुष्टि, ऐक्सेस कंट्रोल) को लागू करना होगा. एजेंसी से जुड़े जोखिम को कम करने का तरीका जानें.
खास जानकारी
जनरेटिव एआई सिस्टम को सुरक्षित रखने के लिए, कई तरह के तरीकों का इस्तेमाल करना ज़रूरी है. इसमें साइबर सुरक्षा के सामान्य तरीकों को बेहतर बनाना भी शामिल है. इससे, एआई मॉडल से जुड़ी खास चुनौतियों का सामना किया जा सकता है. जैसे, डेवलपमेंट लाइफ़साइकल और उपयोगकर्ताओं और सिस्टम के साथ इंटरैक्शन. इसमें सक्रिय रूप से जांच करना, लगातार निगरानी करना, मज़बूत गवर्नेंस, और बदलते हुए कानूनी फ़्रेमवर्क का पालन करना शामिल है. इन सिद्धांतों को लागू करने का सबसे अच्छा तरीका यह है कि आप इंडस्ट्री के टूल इस्तेमाल करें. जैसे, SAIF के जोखिम का खुद आकलन करने वाला टूल. इससे आपको जोखिमों को बेहतर तरीके से समझने और उन्हें कम करने में मदद मिलेगी.