এই নির্দেশিকাটি জেনারেটিভ এআই (GenAI) ব্যবহার করে অ্যান্ড্রয়েড অ্যাপ্লিকেশন তৈরি করছেন এমন ডেভেলপারদের জন্য গুরুত্বপূর্ণ তথ্য প্রদান করে। GenAI একীকরণ এমন কিছু অনন্য চ্যালেঞ্জ তৈরি করে যা সাধারণ সফটওয়্যার ডেভেলপমেন্টের আওতার বাইরে।
নতুন এবং পরিবর্তনশীল এআই ঝুঁকিগুলো তুলে ধরতে এই নির্দেশিকাটি ক্রমাগত আপডেট করা হয়। আপনার অ্যাপে GenAI সক্ষমতা একীভূত করার সাথে সম্পর্কিত উল্লেখযোগ্য ঝুঁকিগুলো বুঝতে এবং কার্যকর প্রশমন কৌশলগুলো জানতে এই বিষয়বস্তু ব্যবহার করুন।
দ্রুত ইনজেকশন
একজন আক্রমণকারী মডেলকে তার নিরাপত্তা ও সুরক্ষা নীতিগুলি এড়িয়ে যেতে বা অনাকাঙ্ক্ষিত কাজ করতে প্ররোচিত করার জন্য ক্ষতিকারক ইনপুট (প্রম্পট) তৈরি করে। একটি সফল আক্রমণের ফলে মডেলটি সংবেদনশীল তথ্য প্রকাশ করতে পারে, ক্ষতিকারক কন্টেন্ট তৈরি করতে পারে, বা অনাকাঙ্ক্ষিত কাজ সম্পাদন করতে পারে, যা ব্যবহারকারীর বিশ্বাসকে নষ্ট করে। প্রম্পট ইনজেকশন আক্রমণ কীভাবে প্রতিরোধ করা যায় তা জানুন।
সংবেদনশীল তথ্য প্রকাশ
জেনারেটিভ এআই মডেলগুলো সংবেদনশীল তথ্য ফাঁসের একটি গুরুতর ঝুঁকি তৈরি করে, যার ফলে বিস্তৃত পরিসরের ডেটা ফাঁস হতে পারে যা এলএলএম (LLM) এবং এর অ্যাপ্লিকেশন কনটেক্সট উভয়কেই প্রভাবিত করে। এই তথ্য ফাঁসের ঘটনা ঘটতে পারে যখন মডেলটি এই গোপনীয় ডেটা অন্য ব্যবহারকারীদের কাছে আউটপুট করে, যখন মেশিন লার্নিং অ্যাজ এ সার্ভিস (MLaaS) প্রোভাইডাররা অসুরক্ষিতভাবে প্রম্পট সংরক্ষণ করে, অথবা যখন ক্ষতিকর পক্ষগুলো সিস্টেমের অভ্যন্তরীণ লজিক প্রকাশ করার জন্য এটিকে কাজে লাগায়। এর পরিণতি গুরুতর, যার মধ্যে রয়েছে মেধাস্বত্ব লঙ্ঘন এবং নিয়ন্ত্রক জরিমানা (উদাহরণস্বরূপ, GDPR , CCPA ) থেকে শুরু করে ব্যবহারকারীর আস্থার সম্পূর্ণ ক্ষতি এবং সিস্টেমের নিরাপত্তা বিঘ্নিত হওয়া পর্যন্ত। সংবেদনশীল তথ্য ফাঁসের ঝুঁকি কীভাবে কমানো যায় তা জানুন।
অতিরিক্ত এজেন্সি
কোনো কাজ সম্পাদনের জন্য ফাংশন বা টুলের সাথে এলএলএম এজেন্টদের সংযুক্ত করা নিরাপত্তা ঝুঁকি তৈরি করতে পারে। ফাংশন কলিংকে কাজে লাগিয়ে পাঠানো ক্ষতিকর প্রম্পটের ফলে অনিচ্ছাকৃতভাবে ডেটা নষ্ট হতে পারে। ক্ষতিকর এআই কার্যকলাপ প্রতিরোধ করার জন্য সুরক্ষামূলক ব্যবস্থা (যেমন, ব্যবহারকারীর সম্মতি, যাচাইকরণ, অ্যাক্সেস নিয়ন্ত্রণ) বাস্তবায়নের দায়িত্ব ডেভেলপারদের। অতিরিক্ত এজেন্সি ঝুঁকি কীভাবে প্রশমিত করা যায় তা জানুন।
সারসংক্ষেপ
GenAI সিস্টেম সুরক্ষিত করার জন্য একটি বহুমুখী পদ্ধতির প্রয়োজন, যা প্রচলিত সাইবার নিরাপত্তা অনুশীলনকে প্রসারিত করে AI মডেলের দ্বারা সৃষ্ট অনন্য চ্যালেঞ্জগুলো, যেমন—উন্নয়ন জীবনচক্র এবং ব্যবহারকারী ও সিস্টেমের সাথে এর মিথস্ক্রিয়া, মোকাবেলা করে। এই ব্যাপক প্রচেষ্টার মধ্যে রয়েছে সক্রিয় পরীক্ষা, নিরন্তর পর্যবেক্ষণ, শক্তিশালী শাসনব্যবস্থা এবং পরিবর্তনশীল নিয়ন্ত্রক কাঠামো মেনে চলা। এই নীতিগুলোকে বাস্তবে প্রয়োগ করার একটি চমৎকার উপায় হলো SAIF রিস্ক সেলফ-অ্যাসেসমেন্টের মতো ইন্ডাস্ট্রির টুল ব্যবহার করে ঝুঁকিগুলোকে আরও ভালোভাবে বোঝা এবং প্রশমিত করা।