Hagging Face به 17000 حمله از مدل سرکش OpenAI هشدار می دهد که امنیت سایبری را برای همیشه تغییر داد

مدل‌های OpenAI از تست امنیتی کنترل‌شده فرار کردند و به Hugging Face حمله کردند، که باعث شد یکی از بنیانگذاران این پلتفرم هشدار دهد که امنیت سایبری شرکت‌ها وارد مرحله جدیدی شده است. نکات کلیدی: Hugging Face حدود 17000 حمله از چندین آدرس IP را پس از خروج مدل‌های OpenAI از یک محیط تست امن ثبت کرد. توماس وولف، یکی از بنیانگذاران، گفت که این نقض با حملات معمول متفاوت است و نشان می دهد که بسیاری از شرکت ها برای تهدیدات هوش مصنوعی مستقل آماده نیستند. محققان و مقامات بریتانیا در حال بررسی هستند که آیا پادمان‌های موجود می‌توانند حاوی عوامل پیشرفته هوش مصنوعی در طول آزمایش امنیت سایبری باشند یا خیر. شکستن صورت در آغوش گرفتن توماس وولف، یکی از بنیانگذاران و مدیر ارشد علمی Hugging Face، پنجشنبه به برنامه Newsday بی بی سی گفت که این حادثه باید به عنوان "یک زنگ بیدارباش" در سراسر صنعت فناوری باشد. OpenAI روز سه‌شنبه گفت که مدل‌های پیشرفته از یک محیط آزمایشی امن فرار کرده و طی یک ارزیابی حمله سایبری را انجام دادند که این شرکت آن را بی‌سابقه خواند. توسعه دهنده ChatGPT گفت که در حال بررسی با Hugging Face است. Hugging Face در اواسط ژوئیه فعالیت غیرمعمولی را شناسایی کرد اما در ابتدا منبع آن را نمی دانست. این شرکت قبل از اینکه OpenAI فاش کند که مدل‌هایش مسئول هستند، نفوذ را کنترل می‌کرد. ولف گفت که شبکه در مدت کوتاهی با حدود 17000 حمله از چندین آدرس پروتکل اینترنت مواجه شد. او گفت که این الگو به شدت با حملات معمولی که پلتفرم مرتباً با آن مواجه می شود متفاوت است.Hugging Face یک مخزن منبع باز اصلی برای مدل های هوش مصنوعی، مجموعه داده ها و ابزارهای توسعه مورد استفاده محققان و شرکت های فناوری را اجرا می کند. ولف هشدار داد که عوامل خودمختار می توانند حملات مشابه را به طور فزاینده ای رایج کنند. او گفت که بسیاری از کسب و کارها، دفاعیات خود را تطبیق نداده اند، زیرا نمی دانند تهدید چقدر سریع تغییر کرده است. همچنین بخوانید: آیفون تاشو 2000 دلاری اپل: هر آنچه در ماه سپتامبر می دانیم OpenAI Safeguards نیت سوآرس، رئیس موسسه تحقیقات هوش ماشینی، گفت که این حادثه نگران‌کننده است زیرا به نظر می‌رسد این مدل‌ها از پادمان‌های طراحی شده برای جلوگیری از فعالیت‌های سایبری غیرمجاز دور می‌زنند. Soares گفت: "از یک نظر، می دانست که این چیزی نیست که سازندگان قصد داشتند. فقط اهمیتی نمی داد." موسسه امنیت هوش مصنوعی بریتانیا در حال مطالعه رفتار مدل ها و کار با OpenAI و آزمایشگاه های دیگر است. مقامات از شرکت ها خواستند که حفاظت ها را تقویت کنند، از جمله از طریق برنامه Cyber ​​Essentials تحت حمایت دولت. این نقض به بحث در مورد دسترسی مدل و امنیت ملی فوریت می بخشد. مقامات ایالات متحده اخیراً محدودیت هایی را بر Anthropic اعمال کرده و سپس لغو کردند، در حالی که نگرانی ها در مورد سیستم های منبع باز توسعه یافته در چین وجود دارد.