مدیرکل امنیت شرکت به‌پرداخت ملت با هشدار نسبت به شتاب گرفتن حملات سایبری مبتنی بر هوش مصنوعی گفت: میانگین زمان حمله به سازمان‌ها به حدود ۲۹ دقیقه کاهش یافته در حالی که مدافعان همچنان برای کشف و رفع تهدیدها به روزها و ماه‌ها زمان نیاز دارند.

به گزارش ستاد خبری اینوتکس ۲۰۲۶، پنل هوش مصنوعی در صنعت پرداخت با حضور داریوش نجارزاده، کارشناس زیرساخت و شبکه؛ سعید علی‌اکبری، کارشناس هوش تجاری؛ امیر محسنی، کارشناس امنیت؛ محمد طیبی، مدیرکل زیرساخت و شبکه؛ محمد دماوندی، مدیرکل امنیت و محمدحسین حسینی، کارشناس ارشد هوش مصنوعی شرکت به‌پرداخت ملت، در حاشیه اینوتکس ۲۰۲۶ و همزمان با برگزاری سومین کنفرانس ملی و نخستین کنفرانس بین‌المللی هوش مصنوعی و اینترنت اشیا برگزار شد.

محمد دماوندی، مدیرکل امنیت شرکت به‌پرداخت ملت در این پنل با اشاره به روند فزاینده استفاده مهاجمان سایبری از هوش مصنوعی گفت: بر اساس گزارش‌های سال ۲۰۲۶ که از منابع معتبر حوزه فناوری و امنیت سایبری تهیه شده‌اند، استفاده از هوش مصنوعی موجب تغییر جدی در شیوه فعالیت مهاجمان و مدافعان سایبری شده است.

هوش مصنوعی، معادلات حملات سایبری را تغییر داده است

وی با بیان اینکه بخش قابل توجهی از حملات سایبری در صنعت مالی با استفاده از هوش مصنوعی انجام می‌شود اظهار کرد: بر اساس آمار ارائه‌شده بیش از ۵۶ درصد از حملاتی که در صنعت مالی جهان رخ می‌دهد، به‌نوعی با استفاده از هوش مصنوعی مرتبط است و این فناوری به مهاجمان امکان داده است ظرفیت و سرعت حملات خود را به شکل قابل توجهی افزایش دهند.

دماوندی افزود: یکی از مهم‌ترین تغییرات ایجادشده، کاهش زمان لازم برای اجرای حمله است؛ به‌گونه‌ای که متوسط زمان مورد نیاز مهاجمان برای نفوذ به یک سازمان به حدود ۲۹ دقیقه رسیده است.

وی ادامه داد: به این ترتیب اگر یک فرد یا تیم مهاجم یک سازمان را هدف قرار دهد، با کمک هوش مصنوعی می‌تواند در مدت زمانی بسیار کوتاه وارد سازمان شده و یک رخداد امنیتی ایجاد کند. این در حالی است که مدافعان همچنان برای شناسایی، تحلیل و واکنش به این حملات به زمان بیشتری نیاز دارند.

حملات جدید، از سد ابزارهای سنتی امنیتی عبور می‌کنند

مدیرکل امنیت شرکت به‌پرداخت ملت با اشاره به پیچیده‌تر شدن حملات مبتنی بر هوش مصنوعی گفت: حدود ۳۱ درصد از این حملات از طریق دستیابی به دسترسی‌های اولیه و سرقت اطلاعات انجام می‌شود؛ اطلاعاتی که ممکن است کاربران در اختیار ابزارها و عامل‌های هوش مصنوعی قرار دهند و مهاجمان بتوانند از آن‌ها سوءاستفاده کنند.

دماوندی یکی دیگر از ویژگی‌های این حملات را کاهش قابلیت شناسایی آن‌ها توسط ابزارهای سنتی امنیتی دانست و افزود: حدود ۸۲ درصد از این حملات بدون استفاده از باج‌افزار انجام می‌شوند و همین موضوع شناسایی آن‌ها را دشوارتر می‌کند.

وی توضیح داد: بسیاری از ابزارهای امنیتی مانند EDR و آنتی‌ویروس‌ها بر اساس امضای فایل و الگوهای مشخص، حملات را شناسایی می‌کنند اما حملاتی که با کمک هوش مصنوعی و به‌صورت پویا انجام می‌شوند، می‌توانند با توجه به شرایط محیط و با تغییر روش اجرا تنوع بیشتری داشته باشند و به همین دلیل کشف آن‌ها دشوارتر است.

مهاجمان در دقیقه حرکت می‌کنند، مدافعان در روز و ماه

دماوندی با تأکید بر شکاف زمانی میان حمله و دفاع سایبری گفت: مهاجمان اکنون در مقیاس دقیقه حرکت می‌کنند، در حالی که مدافعان ممکن است برای شناسایی و واکنش به یک حمله به روزها و ماه‌ها زمان نیاز داشته باشند.

وی افزود: ما با استفاده از هوش مصنوعی، تکنیک‌ها، ابزارها و تخصص‌های مختلف تلاش می‌کنیم زمان شناسایی و رسیدگی به یک حمله را کاهش دهیم اما در طرف مقابل مهاجمان نیز همزمان از همین فناوری برای کوتاه‌تر کردن زمان حمله استفاده می‌کنند و همین موضوع یک بازی نابرابر را ایجاد کرده است.

کاهش زمان کشف رخدادهای امنیتی با کمک هوش مصنوعی

مدیرکل امنیت شرکت به‌پرداخت ملت با اشاره به گزارش‌های IBM گفت: در سال گذشته، زمان لازم از وقوع یک رخداد امنیتی در سازمان تا کشف و رفع آن حدود ۲۹۰ روز بود که با استفاده از هوش مصنوعی و بهره‌گیری از این فناوری توسط تیم‌های امنیتی، این زمان به حدود ۲۴۱ روز کاهش یافته است.

وی ادامه داد: اگرچه این کاهش زمان قابل توجه است اما در مقابل مهاجمان توانسته‌اند زمان اجرای حملات خود را به حدود ۲۹ دقیقه برسانند و همین اختلاف زمانی نشان می‌دهد که مدافعان باید به‌سرعت روش‌های دفاعی خود را متحول کنند.

هزینه حملات سایبری به میلیون‌ها دلار رسیده است

دماوندی با اشاره به پیامدهای اقتصادی حملات سایبری اظهار کرد: متوسط خسارت ناشی از هر رخداد امنیتی در جهان نزدیک به ۵ میلیون دلار است و این رقم در حوزه مالی به حدود ۶ میلیون دلار می‌رسد.

وی افزود: حملاتی که با استفاده از هوش مصنوعی شکل می‌گیرند نیز می‌توانند خسارت‌هایی در حدود ۶ میلیون دلار به سازمان‌ها وارد کنند و این رقم نسبت به سال گذشته حدود تقریبا ۱۲ درصد افزایش داشته است.

هوش مصنوعی، هزینه و نیروی انسانی مورد نیاز مهاجمان را کاهش داده است

مدیرکل امنیت شرکت به‌پرداخت ملت افزود: امروز عامل‌های هوش مصنوعی می‌توانند بخش قابل توجهی از این فعالیت‌ها را انجام دهند و عملا توانایی یک متخصص را چند برابر کنند. برای مثال زمانی که یک متخصص چند عامل هوش مصنوعی را برای انجام فعالیت‌های روزمره خود به کار می‌گیرد، ظرفیت کاری او به شکل قابل توجهی افزایش می‌یابد.

دماوندی تاکید کرد: همین اتفاق برای مهاجمان نیز رخ داده است؛ یعنی هزینه حمله کاهش یافته، دانش در دسترس مهاجمان عمیق‌تر شده و دقت آن‌ها افزایش یافته است. بنابراین با یک تغییر پارادایم در اقتصاد و شیوه اجرای حملات سایبری مواجه هستیم.

عامل‌های هوش مصنوعی می‌توانند خودشان آسیب‌پذیری را شناسایی و سوءاستفاده کنند

وی در ادامه به نمونه‌ای از سوءاستفاده از عامل‌های هوش مصنوعی اشاره کرد و گفت: اخیراً نمونه‌ای گزارش شده که در آن به یک عامل هوش مصنوعی مأموریت داده شده بود یک گزارش را از یک وب‌سایت دریافت و به‌صورت دوره‌ای آن را تحلیل کند.

دماوندی افزود: در جریان انجام این مأموریت، عامل هوش مصنوعی به بخشی از اطلاعات دسترسی نداشت و در نتیجه یک آسیب‌پذیری را شناسایی و از آن سوءاستفاده کرد. این عامل پس از بهره‌برداری از آسیب‌پذیری، سطح دسترسی خود را افزایش داد و توانست اطلاعات مورد نظر را استخراج کند.

وی تصریح کرد: در ابتدا تصور می‌شد خروجی عامل هوش مصنوعی صرفا یک تحلیل عمیق‌تر و بهتر از داده‌هاست اما بررسی لاگ‌ها و کدی که اجرا شده بود نشان داد این ابزار در فرآیند انجام مأموریت خود اقدام دیگری انجام داده و عملا از یک آسیب‌پذیری سوءاستفاده کرده است.

هوش مصنوعی؛ هم ابزار مهاجم و هم فرصت مدافع

دماوندی با تأکید بر اینکه هوش مصنوعی تنها در اختیار مهاجمان نیست گفت: همان‌قدر که هوش مصنوعی می‌تواند به مهاجمان کمک کند، برای مدافعان نیز ارزش‌آفرین است و می‌تواند توان تیم‌های امنیتی را افزایش دهد.

وی افزود: برای شناسایی و رهگیری یک رخداد امنیتی، تیم‌های امنیتی باید ساعت‌ها زمان صرف بررسی تله‌متری‌های مختلف کنند. یک انسان در یک لحظه فقط قادر است تعداد محدودی از این داده‌ها را بررسی کند اما هوش مصنوعی می‌تواند حجم بسیار زیادی از تله‌متری‌ها و رویدادها را به‌صورت همزمان تحلیل کند.

مدیرکل امنیت شرکت به‌پرداخت ملت ادامه داد: در این شرکت نیز از این ظرفیت استفاده شده و چند محصول داخلی توسعه یافته است که می‌توانند لاگ‌ها، سوابق تله‌متری و اطلاعات به‌دست‌آمده از ابزارهای موجود در شبکه پرداخت را جمع‌آوری و تحلیل کرده و نتیجه را در اختیار ما قرار دهند.

تصمیم نهایی باید همچنان در اختیار انسان باشد

دماوندی با تأکید بر ضرورت حفظ نقش انسان در فرآیند تصمیم‌گیری امنیتی گفت: قرار نیست تمام اختیار واکنش به رخدادها را به عامل‌ها و ابزارهای هوش مصنوعی واگذار کنیم. این ابزارها باید به کارشناسان کمک کنند تا بتوانند تصمیم بهتر، سریع‌تر و دقیق‌تری بگیرند.

وی افزود: هوش مصنوعی می‌تواند در شناسایی، دسته‌بندی و همبستگی میان رویدادهای امنیتی و همچنین تصمیم‌سازی به تیم‌ها کمک کند اما تصمیم نهایی همچنان باید با حضور انسان انجام شود.

مسئولیت خطای عامل هوش مصنوعی با چه کسی است؟

مدیرکل امنیت شرکت به‌پرداخت ملت در بخش دیگری سخنان خود بر یک چالش مهم حکمرانی و مسئولیت‌پذیری در استفاده از عامل‌های هوش مصنوعی تأکید کرد و گفت: باید همواره انسان را در چرخه تصمیم‌گیری هوش مصنوعی قرار دهیم تا از بروز خطا جلوگیری شود و دقت تصمیم‌گیری افزایش یابد.

دماوندی هشدار داد: اگر واکنش به یک رخداد امنیتی را به‌طور کامل به یک ابزار یا عامل هوش مصنوعی بسپاریم و این ابزار تصمیم اشتباهی بگیرد، مسئولیت پیامد آن بر عهده چه کسی خواهد بود؟

وی ادامه داد: اگر یک عامل هوش مصنوعی تصمیم اشتباهی بگیرد و در نتیجه آن مثلاً ۲ میلیون دلار خسارت به سازمان وارد شود، نمی‌توان صرفا گفت که عامل هوش مصنوعی اشتباه کرده است. هنوز بسیاری از سازمان‌ها پاسخ روشنی برای این پرسش ندارند که در چنین شرایطی مسئولیت حقوقی و مدیریتی این تصمیم بر عهده چه فرد یا نهادی خواهد بود.

دماوندی تاکید کرد: اینکه سازمان‌ها در استفاده از هوش مصنوعی چه میزان اختیار به عامل‌ها بدهند و در صورت بروز خطا، مسئولیت آن را چگونه تعریف کنند یکی از مهم‌ترین پرسش‌هایی است که همزمان با گسترش استفاده از عامل‌های هوش مصنوعی باید به آن پاسخ داده شود.