Cisco سپر امنیتی جدیدی برای عصر هوش مصنوعی معرفی کرد

شرکت Cisco به‌تازگی از چارچوب جدیدی برای شناسایی و کاهش تهدیدهای منحصربه‌فرد امنیتی و ایمنی مرتبط با ابزارهای هوش مصنوعی رونمایی کرده تا تیم‌های فناوری اطلاعات بتوانند بهتر با چالش‌های نوپدید در عصر هوش مصنوعی مقابله کنند. به گزارش ایتنا این چارچوب، تحت عنوان Integrated AI Security and Safety Framework، به‌صورت جامع انواع تهدیدهایی را که ابزارهای AI با آن مواجه هستند، شناسایی و دسته‌بندی می‌کند. در این ساختار نزدیک به ۲۰ نوع تاکتیک و تکنیک مختلف معرفی شده که مهاجمان می‌توانند از آنها بهره‌برداری کنند، از جمله حملات تزریق درخواست (prompt injection)، تلاش برای فرار از محدودیت‌ها (jailbreaking) و دستکاری داده‌های آموزشی. Cisco تلاش کرده است این چارچوب را به گونه‌ای طراحی کند که هم برای مدیران اجرایی و هم کارشناسان امنیتی، قابل فهم و کاربردی باشد. به این ترتیب، امنیت سایبری در سراسر چرخه عمر سیستم‌های AI از مرحله شناسایی تهدید تا تعیین ابزارهای مورد نیاز برای مقابله با هر نوع خطر، قابل مدیریت‌تر خواهد بود. کارشناسان Cisco معتقدند بسیاری از چارچوب‌های امنیتی موجود برای AI، مانند برخی از نسخه‌های رایج، هنوز بخش‌های مهمی از تهدیدهای حوزه هوش مصنوعی را پوشش نمی‌دهند. به‌عنوان مثال، برخی از این مدل‌های استاندارد اطلاعات کافی درباره ایمنی محتوا یا حملات چندرسانه‌ای ندارند، موضوعی که در چارچوب جدید Cisco مورد توجه قرار گرفته است. بنا به گزارش Axios در کنار معرفی این چارچوب، Cisco اعلام کرده که در تلاش است ابزارهای امنیتی خود را با آن منطبق کرده و همچنین با نهادهای تدوین استاندارد همکاری کند تا پیشنهادهای مرتبط با استانداردهای امنیت AI به‌طور گسترده‌تر پذیرفته شوند. کارشناسان امنیت سایبری بر این باورند که بکارگیری این چارچوب می‌تواند به بهبود مدیریت ریسک در سازمان‌ها کمک کند و از بروز آسیب‌پذیری‌های ناشی از استفاده روزافزون از سیستم‌های هوش مصنوعی در محیط‌های تجاری و شبکه‌های حیاتی جلوگیری کند.