تهدیدها و فرصت های امنیت سایبری در عصر هوش مصنوعی

تهدیدها و فرصت های امنیت سایبری در عصر هوش مصنوعی

به گزارش روابط عمومی مرکز توسعه کسب و کار های نوین جوانان وندا:

با گسترش ابزارهای هوش مصنوعی، مبحث تبدیل این فناوری به ابزارهای تهدید‌آمیز نیز مطرح شده است. آیا هوش مصنوعی می‌تواند مانند یک هکر عمل کند؟ پاسخ مثبت است. قابلیت یادگیری عمیق مدل‌های زبانی مانند چت‌بات‌ها نشان داده که همان‌طور که می‌توان این سیستم‌ها را برای تشخیص و مقابله با حملات سایبری آموزش داد، از سویی دیگر نیز امکان دارد با تغذیه اطلاعات نامناسب، به سیستم‌های هک و نفوذ پیچیده تبدیل شوند.

این قابلیت‌های دوگانه هوش مصنوعی یک شمشیر دولبه است که می‌تواند هم برای محافظت و هم برای تهدید سیستم‌های امنیتی به کار گرفته شود. در کنفرانس امنیت سایبری Cash24، وحید خدابخشی، مدیر امنیت و ریسک شاپرک، بر این موضوع تأکید کرد و اهمیت تدابیر فنی و قوانین قوی را برای جلوگیری از تهدیدات هوش مصنوعی بررسی کرد.

رشد آرام تهدیدات سایبری در بانکداری دیجیتال، اتکای مردم به خدمات آنلاین و به‌ویژه پرداخت‌های الکترونیکی رو به افزایش است. هرگونه اختلال در این سیستم‌ها نه تنها هزینه‌های اقتصادی به‌دنبال دارد، بلکه تجربه کاربری منفی نیز ایجاد می‌کند. یکی از این تهدیدات جدید، “سمی‌سازی مدل‌های هوش مصنوعی” است. این روش به گونه‌ای عمل می‌کند که علائم غیرعادی به‌راحتی قابل تشخیص نباشد و همچون بیماری سرطان به‌صورت تدریجی و آرام سیستم‌ها را تحت تاثیر قرار دهد.

روت‌کیت‌های آینده و هوش مصنوعی یکی از تهدیدات بزرگ در آینده، ترکیب روت‌کیت‌های سنتی با هوش مصنوعی است. روت‌کیت‌ها نرم‌افزارهایی هستند که دسترسی مخفیانه به سیستم‌ها را فراهم کرده و کنترل سیستم را در اختیار هکر قرار می‌دهند. به‌طور مشابه، مدل‌های هوش مصنوعی سمی شده می‌توانند در دل سیستم‌های دفاعی نفوذ کنند و آن‌ها را تضعیف کنند. این روند، نیازمند نظارت دقیق‌تر و مقاوم‌سازی مدل‌ها در برابر حملات سمی است تا از سوء‌استفاده‌های احتمالی جلوگیری شود.

سیستم‌های هوش مصنوعی پیش‌بینی‌کننده برای مقابله با این تهدیدات، سیستم‌های تشخیص نفوذ (IDS) با هدف شناسایی نشانه‌های زودهنگام حملات پیشنهاد شده‌اند. این سیستم‌ها می‌توانند کوچکترین انحرافات از رفتارهای عادی را تشخیص داده و قبل از وقوع حملات گسترده واکنش نشان دهند. به عنوان مثال، در حملاتی نظیر استاکس‌نت که ایران را هدف قرار داد، هوش مصنوعی پیش‌بینی‌کننده با شناسایی نشانه‌های اولیه می‌تواند در آینده مانع از پیشروی مشابه چنین حملاتی شود.

نظارت بر فعالیت‌های داخلی و تشخیص نفوذ به‌کارگیری هوش مصنوعی مولد برای شناسایی رفتارهای مشکوک درون سازمان‌ها، به‌ویژه در ایران که با کمبود نیروی متخصص امنیتی مواجه است، بسیار مفید است. این سیستم‌ها با ایجاد پروفایل‌های رفتاری از کارمندان می‌توانند کوچکترین انحرافات را تشخیص دهند و احتمال نفوذ را کاهش دهند.

نیاز به قانون‌گذاری و اخلاق در هوش مصنوعی استفاده گسترده از مدل‌های هوش مصنوعی نیازمند قوانینی است که مسئولیت‌ها و مقررات شفاف برای جلوگیری از سوءاستفاده‌ها داشته باشد. در اروپا، قوانینی ابتدایی برای هوش مصنوعی مولد تدوین شده است، اما در ایران هنوز چارچوبی برای قانون‌گذاری مشخص نشده است. بدون قوانین واضح، مسئولیت اشتباهات هوش مصنوعی همچنان مبهم باقی مانده است و نیاز است که این موضوع در اولویت تصمیم‌گیران قرار گیرد.

اهمیت سرمایه‌گذاری در امنیت هوش مصنوعی هوش مصنوعی به سرعت در حال توسعه است و در تمامی جنبه‌های زندگی انسان‌ها حضور دارد. چین با سرمایه‌گذاری‌های عظیم در حوزه امنیت و هوش مصنوعی، اهمیت این موضوع را به رسمیت شناخته است. برای ایران نیز ضروری است که یک برنامه راهبردی ۱۰ ساله برای امنیت هوش مصنوعی تدوین شود تا در آینده به تهدیدات آن پاسخ دهد، در غیر این صورت این ابزارها به جای کمک به دفاع، به تهدیدی علیه امنیت کشور تبدیل خواهند شد.

این چالش‌ها نشان‌دهنده این است که هوش مصنوعی نیازمند نظارت، قانون‌گذاری و سرمایه‌گذاری ویژه است تا تهدیدات احتمالی به فرصت‌های واقعی تبدیل شود.