پلتفرم محبوب هاگینگ فیس که میزبان مدلهای هوش مصنوعی است، هدف حمله سایبری قرار گرفت. نکته شگفتانگیز و تا حدی دلهرهآور این است که این نفوذ، تماماً توسط سیستم هوش مصنوعی ایجنتمحور هدایت و اجرا شد؛ وقوع چنین رویدادی را پیشازاین کارشناسان پیشبینی میکردند ولی اکنون به واقعیت پیوسته است.
براساس اعلام هاگینگفیس، سیستم آنها توسط مهاجمی مخرب مورد نفوذ قرار گرفت و این حمله بهطور کامل توسط ایجنت خودمختار هوش مصنوعی هدایت شد. هاگینگ فیس اعلام کرده است که این نفوذ را شناسایی کرده و ابعاد حمله را عمدتاً با استفاده از سیستمهای هوش مصنوعی دفاعی خود تحلیل و متوقف کرده است.
ابعاد نفوذ به هاگینگ فیس و بررسی خسارتهای احتمالی
ایجنت هوش مصنوعی در جریان این حمله موفق شد به بخش محدودی از مجموعه دادههای اینترنتی و چندین کلید اعتباری خدمات پلتفرم دسترسی غیرمجاز پیدا کند. بااینحال، هاگینگ فیس میگوید شواهدی مبنیبر دستکاری مدلهای عمومی یا مجموعه دادههای کاربرمحور مشاهده نکرده است.
علاوهبراین، زنجیره تأمین نرمافزاری این شرکت مثل بخش Container Images بررسی شده و کاملاً ایمن و بدون تغییر باقی ماندهاند. بررسیها برای تعیین میزان دقیق نشت اطلاعات همچنان ادامه دارد و در صورت تأیید سرقت دادهها، موضوع به شرکا و کاربران آسیبدیده اطلاعرسانی خواهد شد.
هنوز مشخص نیست که این ایجنت خودمختار از کدامیک از مدلهای زبانی بزرگ قدرت گرفته است. این ابزار مخرب توانست با اجرای هزاران اقدام مجزا در محیطهای سندباکس، کنترل خود را بر سرویسهای عمومی اعمال کند.
کارشناسان امنیت برای به حداقل رساندن خطرات احتمالی پس از این حادثه، به تمام توسعهدهندگان و کاربران توصیه میکنند که توکنهای دسترسی خود را در اولین فرصت بازنشانی و فعالیتهای اخیر حساب کاربری خود را به دقت بازبینی کنند. همچنین کاربران در صورت مشاهده هرگونه مورد مشکوک، میتوانند موضوع را از طریق ایمیل به آدرس security@huggingface.co گزارش دهند.
این پلتفرم بلافاصله پس از شناسایی نفوذ، زنجیرهای از اقدامات امنیتی را برای قطع دسترسی مهاجم و افزایش ایمنی زیرساختهای خود به کار بست. شرکت تمام توکنها و کلیدهای اعتباری مشکوک را باطل و بازنشانی کرد و فیلترهای حفاظتی جدید و کنترلهای ورود سختگیرانهتری را روی خوشههای خود اعمال کرد. علاوهبراین، سیستمهای شناسایی و هشداردهی ارتقا یافتند تا امکان واکنش سریع به هشدارهای با درجه اهمیت بالا در چند دقیقه فراهم شود.