هوش مصنوعی (AI) در سال ۲۰۲۵ به یکی از محورهای اصلی بحث‌های امنیت سایبری تبدیل خواهد شد. تحلیلگران و متخصصان بر این باورند که هوش مصنوعی به طور فزاینده‌ای در هر دو جبهه جنگ سایبری استفاده خواهد شد.
مهاجمان کمتر نگران دقت، اخلاق یا عواقب ناخواسته هوش مصنوعی هستند و بنابراین از این فناوری بهره بیشتری خواهند برد. تکنیک‌هایی مانند فیشینگ بسیار شخصی سازی شده و جستجو برای نقاط ضعف در شبکه‌ها، از هوش مصنوعی سود خواهند برد.
سال ۲۰۲۵ سال نبرد هوش مصنوعی در برابر هوش مصنوعی خواهد بود. زیرا هر دو طرف از اطلاعات جمع آوری شده از حملات قبلی، برای راه اندازی حملات و دفاع‌های جدید استفاده خواهند کرد.
تهدیدات امنیتی هوش مصنوعی
مهاجمان سایبری بیشتر به سیستم‌های هوش مصنوعی حمله خواهند کرد. فناوری هوش مصنوعی سطح حمله را به طور قابل توجهی گسترش می‌دهد و تهدیدات جدیدی برای مدل‌ها، مجموعه‌های داده و سیستم‌های عملیاتی یادگیری ماشین ایجاد می‌کند. همچنین، هنگامی که برنامه‌های هوش مصنوعی به سرعت از آزمایشگاه به تولید منتقل می‌شوند، تأثیر کامل امنیتی آن‌ها تا زمانی که نقض‌های اجتناب ناپذیر رخ ندهد، درک نخواهد شد.
استقرار گسترده و بدون کنترل ابزارهای هوش مصنوعی بدون پایه‌های امنیتی قوی، عواقب شدیدی در سال ۲۰۲۵ به همراه خواهد داشت. این سیستم‌ها به دلیل فقدان اقدامات حریم خصوصی و چارچوب‌های امنیتی مناسب، به اهداف اصلی برای نقض و دستکاری تبدیل خواهند شد.
مسئولیت تیم‌های امنیتی
تیم‌های امنیتی در سال ۲۰۲۵ مسئولیت بیشتری برای ایمن سازی سیستم‌های هوش مصنوعی خواهند داشت. اگرچه این موضوع واضح به نظر می‌رسد، اما در بسیاری از سازمان‌ها، پروژه‌های اولیه هوش مصنوعی توسط دانشمندان داده و متخصصان کسب و کار هدایت می‌شوند که اغلب فرآیندهای امنیتی معمول را دور می‌زنند. تیم‌های امنیتی اگر سعی کنند پروژه‌های هوش مصنوعی را مسدود یا کند کنند، شکست خواهند خورد، اما باید این پروژه‌ها را تحت چتر امنیت و انطباق قرار دهند.
تهدیدات مسمومیت داده‌ها
حملات مسمومیت داده‌ها با هدف دستکاری مدل‌های زبانی بزرگ (LLMs) در سال ۲۰۲۵ بیشتر خواهند شد. اگرچه این روش نسبت به تاکتیک‌های ساده‌تر، مانند توزیع مدل‌های LLM مخرب، به منابع بیشتری نیاز دارد، اما احتمالاً بیشتر مورد استفاده قرار خواهد گرفت.
اکثر سازمان‌ها مدل‌های خود را آموزش نمی‌دهند، بلکه به مدل‌های از پیش آموزش دیده که اغلب به صورت رایگان در دسترس هستند، تکیه می‌کنند. فقدان شفافیت در مورد منشأ این مدل‌ها، معرفی مدل‌های مخرب را برای مهاجمان آسان می‌کند.
تهدیدات پیشرفته‌تر با هوش مصنوعی
در سال ۲۰۲۵، مهاجمان با استفاده از هوش مصنوعی، حملات پیچیده‌تری را با سرعت بیشتری اجرا خواهند کرد. با افزایش قابلیت‌ها و دسترسی به هوش مصنوعی، ورود به عرصه حملات برای مهاجمان کم مهارت آسان‌تر خواهد شد. همچنین، ظهور بات‌های مبتنی بر هوش مصنوعی به مهاجمان امکان می‌دهد تا حملات گسترده‌ای را با حداقل تلاش انجام دهند.
هوش مصنوعی ایجنت محور: چالش جدید
پیشرفت‌های هوش مصنوعی ایجنت محور (Agentic AI) ، هوش مصنوعی که قادر به تصمیم گیری مستقل و تطبیق با محیط است ، مشکلات جدیدی برای مدافعان ایجاد خواهد کرد. این سیستم‌ها می‌توانند از الگوریتم‌های پیشرفته برای شناسایی آسیب پذیری‌ها، نفوذ به سیستم‌ها و تکامل تاکتیک‌های خود در زمان واقعی بدون نیاز به هدایت انسان استفاده کنند.
امیدواری‌ها و ناامیدی‌ها
هوش مصنوعی می‌تواند به ایمن سازی داده‌های حساس کمک کند. در سال ۲۰۲۵، شاهد افزایش استفاده از ابزارهای مبتنی بر هوش مصنوعی برای شناسایی، برچسب گذاری و ایمن سازی خودکار اطلاعات حساس خواهیم بود.
با این حال، سال ۲۰۲۵ ممکن است با ناامیدی متخصصان امنیتی همراه باشد. مراکز عملیات امنیتی خودکار با استفاده از هوش مصنوعی تولیدی از واقعیت فاصله زیادی دارد.
جمع‌بندی
سال ۲۰۲۵ سالی خواهد بود که هوش مصنوعی نقش محوری در جنگ سایبری ایفا خواهد کرد. در حالی که این فناوری فرصت‌های جدیدی برای دفاع فراهم می‌کند، مهاجمان نیز از آن برای اجرای حملات پیچیده‌تر و گسترده‌تر استفاده خواهند کرد. سازمان‌ها باید از هم اکنون برای مواجهه با این چالش‌ها آماده شوند و از ابزارهای مبتنی بر هوش مصنوعی برای ایمن سازی داده‌ها و کاهش تهدیدات استفاده کنند.
