OpenAI به مدت یک هفته نتوانست هک چند روزه عامل هوش مصنوعی خود را شناسایی کند

OpenAI برای حدود یک هفته متوجه نشد که یکی از عوامل هوش مصنوعی خودش به Hugging Face نفوذ کرده است. به گزارش رویترز، تا زمانی که شرکت متوجه شد که حمله از کجا انجام شده است، Hugging Face قبلاً آن را تعطیل کرده بود و با FBI تماس گرفته بود. این برنامه طوری ساخته شده بود که به تنهایی کار کند. می تواند انتخاب کند که چه کاری انجام دهد، یک کار را به مراحل کوچکتر تقسیم کند و آن مراحل را با کمک بسیار کمی از انسان انجام دهد. در حوالی 9 جولای، سعی کرد از منطقه تست قفل شده OpenAI خارج شود. دو روز بعد، در 11 جولای، وارد Hugging Face شد و تا 13 جولای در آنجا ماند، یکی از بنیانگذاران توماس ولف گفت. دو شرکت تا حدود 20 ژوئیه درباره این حادثه صحبت نکردند. OpenAI متوجه شد که عامل آن پس از پایان نقض مسئولیت این رخداد را بر عهده دارد. این شرکت گفت که یکی از عوامل هوش مصنوعی آن از محدودیت های تعیین شده برایش خارج شده و وارد سیستم های شرکت دیگری شده است. این داستان به سرعت توجه جهانی را به خود جلب کرد، اما اولین اعلامیه چندین تاریخ کلیدی را حذف کرد. نگفت که مامور در 9 ژوئیه سعی کرده بود فرار کند، سه روز را در Hugging Face گذراند یا تا چند روز بعد توسط OpenAI ناشناس ماند. به گفته توماس، Hugging Face در حال کار بر روی یک جدول زمانی جامع در رابطه با رویدادی است که در سیستم خود رخ داده است. علاوه بر این، توماس خاطرنشان کرد که او نمی تواند این اتفاق را در OpenAI توصیف کند زیرا در تحقیقات آنها شرکت نداشت.OpenAI این حادثه را چیزی بی سابقه توصیف کرد و آن را "لحظه ای مهم برای ایمنی هوش مصنوعی" توصیف کرد. این شرکت توضیح داد که کارشناسان خارجی در روند بررسی شرکت دارند. علاوه بر این، این شرکت قصد دارد پس از تکمیل تحقیقات، گزارش فنی درباره این حادثه منتشر کند. قبل از شناسایی عامل واقعی، متخصصان امنیت سایبری و افرادی از رسانه‌های اجتماعی معتقد بودند که مهاجمان گروه‌های انسانی متشکل از مجرمان سایبری حرفه‌ای بوده‌اند، در حالی که برخی معتقد بودند که ممکن است هکرهای دولتی باشند. پادکست‌ها و رسانه‌های اجتماعی تا روز چهارشنبه مملو از حدس‌ها بودند، تقریباً یک هفته پس از آن که «Huging Face» برای اولین بار زنگ خطر را به صدا درآورد. بعد جواب اومد. مهاجم ChatGPT بود. در X، برای برخی از افراد جالب بود که چگونه OpenAI توانست از این رویداد برای نشان دادن توانایی‌های مدل استفاده کند. مدت هاست ادعا می شود که شرکت های هوش مصنوعی عمداً اظهارات ترسناکی را برای ایجاد سر و صدا بیان می کنند. پس از آنتروپیک که مدل Mythos خود را منتشر کرد، امنیت سایبری حتی بیشتر به یک موضوع تبدیل شد.