اطلاعیه‌ امنیتی

1403-11-10

آشکار شدن حفره‌های امنیتی در مدل هوش مصنوعی DeepSeek

دسته بندی:
حمله سایبری
سطح هشدار:
2
سرویس تحت تاثیر:
اطلاعیه‌های عمومی

شرکت چینی DeepSeek، فعال در حوزه هوش مصنوعی، اعلام کرده است که وقفه‌های ایجادشده در فرایند ثبت‌نام کاربران روی وب‌سایت این شرکت، ناشی از یک حمله سایبری بوده است. این خبر همزمان با آن منتشر می‌شود که پژوهشگران حوزه امنیت شروع به کشف حفره‌های امنیتی در مدل هوش مصنوعی جدید DeepSeek به نام R1 کرده‌اند. DeepSeek که در سال ۲۰۲۳ تأسیس شده، مدعی است مدل R1 از منظر عملکرد با چت‌بات‌های مطرحی مانند ChatGPT و Google Gemini برابری کرده و در عین حال از قدرت محاسباتی کمتری استفاده می‌کند؛ موضوعی که باعث توجه گسترده بازار به آن شده است.

شرکت DeepSeek در روز دوشنبه اعلام کرد که سرورهایش هدف «حمله‌های مخرب در ابعاد وسیع» قرار گرفته و به‌دلیل محافظت از سرویس‌ها، موقتاً ثبت‌نام را محدود کرده است. با این حال، کاربرانی که پیشتر حساب کاربری داشته‌اند می‌توانند طبق روال عادی وارد حساب خود شوند. از توضیحات مختصر شرکت چنین برمی‌آید که این حمله احتمالاً نوعی حمله منع سرویس (DDoS) بوده است. همچنین DeepSeek درباره اکانت‌های جعلی در شبکه‌های اجتماعی که به نام این شرکت فعالیت می‌کنند، به کاربران هشدار داده است.

در کنار موضوع حمله سایبری، اکنون برخی شرکت‌های امنیت سایبری به بررسی راه‌های سوءاستفاده از مدل R1 پرداخته‌اند. به گزارش شرکت Kela، «جیلبریک کردن» (Jailbreak) این مدل در سناریوهای مختلف نسبتاً آسان بوده و امکان تولید محتوای مخرب، مانند راهنمای ساخت باج‌افزار یا دستورالعمل‌های خطرناک، وجود دارد. طبق آزمایش‌های صورت‌گرفته، چند روش شناخته‌شده برای فریب فیلترهای محتوایی (نظیر Evil Jailbreak و Leo) که در چت‌بات‌های شناخته‌شده قبلاً مسدود شده‌اند، همچنان در DeepSeek R1 کار می‌کنند. این شرایط می‌تواند به مهاجمان اجازه دهد تا بدون محدودیت به تولید محتوای غیرقانونی یا نادرست بپردازند.

نکته دیگر، ارائه اطلاعات نادرست توسط این مدل در پاسخ به پرسش‌های حساس است؛ برای مثال، زمانی که از DeepSeek R1 خواسته شد اطلاعاتی محرمانه درباره چند کارمند ارشد OpenAI ارائه دهد، با وجود نمایش پاسخ، داده‌های ارائه‌شده صحت نداشت. این موضوع نگرانی‌هایی را درباره قابلیت اعتماد و دقت پاسخ‌های R1 برانگیخته است. علاوه بر این، برخی متخصصان درباره تبعات احتمالی استفاده از یک سرویس چینی در حوزه هوش مصنوعی هشدار می‌دهند و معتقدند با توجه به مباحثی مانند «حریم خصوصی داده» و تنش‌های موجود میان آمریکا و چین، کاربران باید دقت بیشتری در به‌اشتراک‌گذاری اطلاعات محرمانه از طریق این مدل داشته باشند. در نهایت، مشخص نیست DeepSeek چه سازوکاری را برای پیشگیری از حملات مشابه و سوءاستفاده‌های امنیتی در آینده در نظر خواهد گرفت، اما فعلاً کاربران و فعالان حوزه امنیت با تردید به توانایی این مدل در مدیریت موانع و خطرات امنیتی می‌نگرند.

منبع:

نظرات

دیدگاهتان را بنویسید