وبلاگ
نظر واقعی مدافعان سایبری درباره تهدیدات هوش مصنوعی: آنچه شبها خوابشان را میبرد
خلاصه شده توسط هوش مصنوعی:
هوش مصنوعی: شمشیر دولبهای که امنیت سایبری را متحول کرده است
ضربالمثل قدیمی میگوید که فناوریها خودشان نه خوب هستند و نه بد؛ بلکه نحوه استفاده از آنهاست که اهمیت دارد. اگر تا به حال ابزاری وجود داشته که این جمله را به اثبات برساند، هوش مصنوعی است. از یک سو، هوش مصنوعی به مهاجمان این امکان را میدهد که تهدیدات جدیدی بسازند و حملاتی با مقیاس بیسابقه انجام دهند. از سوی دیگر، به تیمهای امنیتی قابلیتهای کاملاً جدیدی برای تقویت دفاع سایبری میبخشد.
گزارش نظرسنجی مدافعان ۲۰۲۵ ترند میکرو به این دوگانگی هوش مصنوعی میپردازد. این تحقیق با تحلیل بیش از ۳۰۰۰ پاسخ از ۸۸ کشور، نشان میدهد که کدام خطرات هوش مصنوعی خواب را از چشمان مدافعان سایبری ربوده و تیمهای امنیتی در کجا فرصتهایی برای تقویت وضعیت امنیتی خود با ابزارهای هوش مصنوعی میبینند.
جعل و کلاهبرداری؛ بزرگترین نگرانی مدافعان از هوش مصنوعی
بیش از یک چهارم (۲۶ درصد) پاسخدهندگان نظرسنجی اعلام کردند که دفاع در برابر کلاهبرداری و جعل هویت مبتنی بر هوش مصنوعی بزرگترین اولویت آنها در مواجهه با خطرات هوش مصنوعی است. دیگر حوزههای مهم تمرکز شامل جلوگیری از حملات به اپلیکیشنهای هوش مصنوعی، اجتناب از نشت دادهها و مالکیت معنوی از طریق ابزارهای هوش مصنوعی، و کسب بینش بیشتر درباره استفاده کارکنان از راهحلهای هوش مصنوعی است. چه اپلیکیشنهای مجاز و چه «هوش مصنوعی سایهای».
میتوان گفت همه این اولویتها منعکسکننده نگرانی عمومی درباره درک سازمانها از حملات مبتنی بر هوش مصنوعی و توانایی آنها برای پاسخگویی به این حملات است.
خبر خوب: اقدامات عملی در حال انجام است
خوشبختانه کاری میتوان کرد. پانزده درصد (۱۵٪) پاسخدهندگان اعلام کردهاند که در حال حاضر در حال پیگیری آموزش و توسعه برای افزایش آگاهی درباره خطرات هوش مصنوعی هستند. بیش از ۱۰ درصد مسدود کردن استفاده از اپلیکیشنهای غیرمجاز را به عنوان اولویت قرار دادهاند. و ۷ درصد بر جلوگیری از دسترسی بیشازحد به اطلاعات تمرکز کردهاند.
بسیاری از سازمانها در حال بررسی تاکتیکها و اقدامات دیگری برای مدیریت مسئولانه هوش مصنوعی و کاهش خطرات بالقوه هستند.
مدافعان سایبری در حال ضدحمله هستند
معماریهای اعتماد صفر (Zero-Trust)، مدیریت وضعیت امنیت داده (DSPM) و رمزنگاری همگی به عنوان راههایی گزارش شدهاند که سازمانها از آنها برای دفاع در برابر تهدیدات مرتبط با هوش مصنوعی استفاده میکنند. متأسفانه تست پیشگیرانه کمتر رایج است؛ تنها ۶ درصد از پاسخدهندگان گفتند که به طور منظم ممیزی هوش مصنوعی انجام میدهند یا تیمهای قرمز (Red Team) را درگیر میکنند تا اطمینان حاصل کنند که حفاظتهای سایبری آنها تا حد ممکن مؤثر هستند.
چرا مشارکت زودهنگام امنیت اهمیت دارد؟
با این حال، نشانه مثبتی است که به نظر میرسد تعداد رو به رشدی از سازمانها تیمهای امنیت سایبری خود را در مراحل اولیه فرآیند پذیرش هوش مصنوعی درگیر میکنند؛ ۲۳ درصد امنیت را در مرحله کشف و ۲۵ درصد در مرحله پایلوت وارد میکنند.
این «تغییر به چپ» (Shift Left) امیدوارکننده است، حتی اگر کار بیشتری باید انجام شود، که به وضوح باید انجام شود. با توجه به اینکه ۱۷ درصد امنیت را فقط در مرحله پیادهسازی درگیر میکنند، زمانی که ممکن است خیلی دیر باشد، ۱۰ درصد نمیدانند امنیت کی وارد میشود، و ۶ درصد میگویند که اصلاً درگیر نمیشوند.
تسلیح خود با ابزارهای هوش مصنوعی
حوزه آشکار دیگری که تیمهای امنیتی میتوانند در برابر تهدیدات هوش مصنوعی پیشرفت کنند، پذیرش ابزارهای هوش مصنوعی است. در حالی که این کار در حال شروع است، چند مانع باید از سر راه برداشته شود.
اعتماد به هوش مصنوعی برای امنیت سایبری؛ چالشها و نگرانیها
کمی کمتر از ۲۰ درصد پاسخدهندگان نظرسنجی گفتند که سازمانشان هنوز شروع به استفاده از ابزارهای امنیت سایبری مبتنی بر هوش مصنوعی نکرده است. تقریباً همان نسبت گفتند که نگرانیهایی درباره دقت و قابلیت اطمینان هوش مصنوعی دارند، و تعداد کمی کمتری خطرات حریم خصوصی را به عنوان دلیلی برای عقبنگهداشتن خود ذکر کردند.
مطمئناً، هر تیمی که امیدوار است ابزارهای دفاعی هوش مصنوعی را مستقر کند و سپس برای یک استراحت طولانی برود، باید نگران باشد. ابزارهای هوش مصنوعی نیاز به نظارت و آموزش دارند. اما طلا در آموزش نهفته است، و هرچه زودتر به کار گرفته شوند و شروع به یادگیری کنند، مؤثرتر خواهند شد.
هماهنگی با نیازهای کسبوکار؛ کلید موفقیت
کلید دیگر موفقیت اطمینان از این است که استفاده از ابزارها و استراتژیهای امنیت سایبری هوش مصنوعی با نیازهای کسبوکار همسو باشد. نوزده درصد (۱۹٪) پاسخدهندگان نظرسنجی گفتند که بزرگترین چالش آنها شناسایی موارد استفاده مرتبط و ارزشمند است. انجام این کار حداقل به دو چیز نیاز دارد: یکی، رهبران فنی و امنیت سایبری باید در گفتگوهای کسبوکارمحور با مدیران ارشد شرکت کنند تا کشف کنند که اهداف امنیتی و کسبوکار کجا با هم همپوشانی دارند؛ و دوم، توسعه یک رویکرد استراتژیک و سازمانگستر برای مدیریت خطر سایبری که بتواند مشخص کند ابزارهای هوش مصنوعی کجا و چگونه مورد نیاز هستند.
خطر هوش مصنوعی در قلب مدیریت خطر سایبری
نتایج امسال به وضوح نشان میدهد که هوش مصنوعی، بخش کلیدی مدیریت خطر سایبری در آینده است و خواهد بود. سؤال این نیست که «آیا هوش مصنوعی دوست یا دشمن ما است؟» سؤال این است: «بزرگترین خطرات هوش مصنوعی که با آنها روبرو هستیم کجاست، چگونه میتوانیم به آنها پاسخ دهیم و چگونه میتوانیم از هوش مصنوعی برای معکوس کردن شرایط علیه مهاجمان استفاده کنیم؟»
راهحلهای عملی برای مدیریت خطرات هوش مصنوعی
پاسخ، همانطور که در خلاصه سریع یافتههای نظرسنجی در اینجا نشان داده شده، شامل آگاهی بیشتر و آموزش بیشتر، سیاستهای بالغتر شرکتی، درگیر کردن تیمهای امنیتی در اسرع وقت ممکن در پذیرش هوش مصنوعی، و بهرهبرداری از قابلیتهای جدید و پیشرفته امنیت سایبری است که هوش مصنوعی ارائه میدهد.
نتیجهگیری: هوش مصنوعی را بشناسید، نه اینکه از آن بترسید
گزارش نظرسنجی مدافعان ۲۰۲۵ ترند میکرو تصویری واقعبینانه از چالشها و فرصتهای هوش مصنوعی در امنیت سایبری ارائه میدهد. مدافعان سایبری در سراسر جهان میدانند که هوش مصنوعی هم تهدید است و هم فرصت و دارند یاد میگیرند که چگونه این تعادل ظریف را مدیریت کنند.
کلید موفقیت در آموزش مستمر، سیاستگذاری هوشمندانه، مشارکت زودهنگام تیمهای امنیتی، و پذیرش مسئولانه ابزارهای هوش مصنوعی نهفته است. سازمانهایی که این مسیر را طی میکنند، نه تنها خود را در برابر تهدیدات مبتنی بر هوش مصنوعی محافظت خواهند کرد، بلکه از قدرت هوش مصنوعی برای تقویت دفاعهای سایبری خود بهره خواهند برد.
اقدام فوری: گزارش کامل نظرسنجی مدافعان ۲۰۲۵ ترند میکرو را دانلود کنید تا درک عمیقتری از چگونگی مدیریت خطرات هوش مصنوعی و استفاده از فرصتهای آن به دست آورید. تیم امنیتی خود را در گفتگوهای استراتژیک درباره پذیرش هوش مصنوعی درگیر کنید—قبل از اینکه برای تصمیمگیری خیلی دیر شود.
