با افزایش تهدیدات کلاهبرداری پیچیده توسط هکرها که از هوش مصنوعی مولد برای جعل هویت کمک می گیرند، امنیت شرکت‌هایی که از عکس‌ها یا صداها برای تأیید هویت مشتری استفاده می کنند، به خطر افتاده است.
توسعه هوش مصنوعی مولد باعث فشار گسترده ای برای تقویت تدابیر امنیتی جهت مقابله با تهدیدات ناشی از تکنولوژی‌های جدید شده است. شرکت‌های کلیدی مانند HYPR، Keyless و Jumio در اجرای راه حل‌های پیشرفته برای محافظت در برابر جعل هویت و حملات دیپ‌فیک، پیشرو هستند.
تهدیدات جدید و پاسخ صنعت
رویکرد HYPR برای کاهش خطرات مرتبط با هوش مصنوعی مولد شامل ترکیبی از دفاع‌های قطعی و کنترل‌های ریسک هویت مبتنی بر هوش مصنوعی است. HYPR با احراز هویت چند فاکتوری بدون رمز عبور (MFA)، مبتنی بر استانداردهای FIDO، با حملات فیشینگ و مهندسی اجتماعی که به کمک هوش مصنوعی تقویت شده اند، مقابله می کند.
این حملات می‌توانند توسط ابزارهای مبتنی بر هوش مصنوعی، مانند تولید کننده های صدا و تصویر، انجام شوند و منجر به پیام های فریب دهنده و تقلبی شوند. ابزارهای هوش مصنوعی مولد، به راحتی قابل استفاده هستند و کیفیت بالای تولید صدا و تصویر توسط آن ها ، توانایی انجام حملات مخرب را افزایش می دهد.
همچنین، هزینه کم و رشد سریع این ابزارها، کاربرانی را که نمی توانند تشخیص دهند که آیا ابزارهای مبتنی بر هوش مصنوعی اطلاعات معتبر یا نادرست ارائه می دهند یا خیر، به خطر می اندازد.
اثرات احتمالی این حملات شامل تخریب اعتبار، کاهش اعتماد به سازمان‌ها و برندها در میان مشتریان، مصرف کنندگان و شرکای تجاری است. همچنین، سرعت و کیفیت حملات مبتنی بر هوش مصنوعی، توانایی تیم های امنیت اطلاعات را در پاسخ به تهدیدات جدید محدود می کند. برای مطالعه بیشتر، می‌توانید به گزارش “ریسک‌های ظاهر شده در نیمه اول سال ۲۰۲۴” از Gartner مراجعه کنید.
در همین حال، Keyless بر اهمیت تدابیر پیشرفته مانند تشخیص زنده بودن و فناوری ضد-جعل تأکید دارد تا سلامتی سیستم‌های بیومتریک چهره را در میان افزایش تهدیدات ناشی از هوش مصنوعی حفظ کند.
تأیید امنیتی پیشرفته از طریق سیگنال‌های ریسک پلتفرم تأیید هویت یکپارچه Jumio نمونه‌ای از پیاده‌سازی استراتژیک سیگنال‌های ریسک در مقابله با فعالیت‌های تقلبی است.
این سیگنال ها شامل معیارهای مختلفی هستند که به صورت یک امتیاز ریسک ترکیب می‌شوند و امکان تصمیم گیری سریع و ایجاد جریان کاری مؤثر را فراهم می‌کنند. از جمله سیگنال های ریسک می توان به بررسی مکان دستگاه کاربر، اطلاعات شخصی مانند نام و آدرس، ارزیابی دستگاه کاربر و بررسی‌های پایگاه داده‌های دولتی اشاره کرد.
با استفاده از اطلاعات و سیگنال‌های ریسک برای افزایش سطح امنیت و تاییدیه هویت، Jumio توانایی خود را در تشخیص و جلوگیری از تلاش‌های دسترسی غیرمجاز افزایش می‌دهد. این رویکرد جامع نه تنها فرآیند تأیید را ساده‌تر می‌کند، بلکه احتمال جعل هویت تولید شده توسط هوش مصنوعی را به طور قابل توجهی کاهش می دهد.
به طور کلی، وقتی که یک فرایند تایید هویت انجام می‌شود، سیستم ممکن است از اطلاعات مختلفی مانند الگوهای رفتاری، مکان‌های ورود به سیستم، دستگاه‌های استفاده شده و غیره برای تشخیص خطرات و ریسک‌های مرتبط با جعل هویت استفاده کند. اگر این سیگنال‌ها نشان دهنده وجود خطر یا فعالیت مشکوک باشند، سیستم می‌تواند اقدامات احتیاطی یا اضافی را اعمال کند تا امنیت هویت را تضمین کند.
یکی دیگر از روش‌های جدید برای مقابله با فریب هوش مصنوعی در جعل هویت استفاده از تکنیک‌های تشخیص تقلب مبتنی بر یادگیری ماشین است. این روش‌ها از الگوریتم‌ها و مدل‌های یادگیری ماشین برای تشخیص الگوهای غیرمعمول یا نامتعارف در داده‌ها استفاده می‌کنند. به عنوان مثال، یک مدل یادگیری ماشین می‌تواند بر اساس الگوهای رفتاری یا ویژگی‌های داده‌ها، تلاش‌های جعلی را تشخیص دهد و اقدامات مناسبی برای جلوگیری از این نوع فریب‌ها انجام دهد.
در این روش، داده‌های جمع‌آوری شده از کاربران و فعالیت‌های آن‌ها برای آموزش مدل‌های یادگیری ماشین استفاده می‌شود تا الگوهای طبیعی و نامتعارف را تشخیص دهد. این روش به کمک تحلیل دقیق داده‌ها و تشخیص الگوهای مشکوک، بهبود امنیت و جلوگیری از جعل هویت توسط هوش مصنوعی را فراهم می‌کند.
پیشرفت فناوری هوش مصنوعی و تأیید هویت، چالش‌ها و فرصت‌هایی را به همراه دارد. در حالی که شرکت‌هایی مانند HYPR، Keyless و Jumio در حال نوآوری هستند، تمرکز همچنان بر توسعه راه‌حل‌هایی است که نه تنها در جلوگیری از تقلب مؤثر باشند، بلکه قابلیت سازگاری با تغییرات سریع تهدیدات دیجیتالی را نیز داشته باشند. تلاش برای استفاده از مکانیزم‌های تأیید هویت امن تر و مقاوم در برابر هوش مصنوعی، نشان دهنده ی تعهد صنعت فناوری به حفاظت از هویت کاربران در دنیای دیجیتال است.
