اطلاعیه‌ امنیتی

1403-08-27

دسترسی به سیستم‌عامل سندباکس ChatGPT و داده‌های “پلی‌بوک”

دسته بندی:
هوش مصنوعی
سطح هشدار:
2
سرویس تحت تاثیر:
اطلاعیه‌های عمومی

تحقیقات نشان داده است که کاربران ChatGPT می‌توانند به سیستم‌عامل سندباکس این پلتفرم دسترسی گسترده‌ای داشته باشند، از جمله بارگذاری و اجرای اسکریپت‌های پایتون و مشاهده ساختار فایل‌ها. این سندباکس به‌طور ایزوله طراحی شده تا تعاملات کاربران را از سرورهای اصلی جدا نگه دارد. با این حال، محققان توانسته‌اند به فایل‌های پیکربندی و داده‌های “پلی‌بوک” که رفتار مدل را تعیین می‌کنند، دسترسی پیدا کنند. این دسترسی می‌تواند به کاربران امکان دهد تا محدودیت‌های مدل را دور بزنند یا به اطلاعات حساس دست یابند. OpenAI از این یافته‌ها مطلع شده و در حال بررسی آن‌ها است.

منبع:

نظرات

دیدگاهتان را بنویسید