سرعت پذیرش (Adoption) تکنولوژی توسط کاربراندر دنیای امروز امنیت شبکه، همواره یک گام جلوتر از تیمهای SecOps است. تحقیقات نشان میدهد بخش بزرگی از تعاملات کارمندان با GenAI در سازمانها، دور از چشم ابزارهای کنترلی تیمهای امنیتی رخ میدهد.
احتمالاً شما هم در شبکه خود با این چالش دستوپنج نرم میکنید که کارمندان برای تسریع در کدنویسی یا خلاصهسازی اسناد حساس، از اکانتهای شخصی و مرورگرهای غیر امن استفاده میکنند. این مفهوم همان Shadow AI است؛ محیطی خاکستری که در آن دادههای حیاتی سازمان بدون هیچ ردپایی، به مدلهای عمومی (Public Models) تزریق میشوند. برخلاف Shadow IT سنتی، اینجا ما با نشت پویای داده (Data Exfiltration) روبرو هستیم که مدلهای امنیتی قدیمی توان شناسایی آن را ندارند.
در این مقاله رسیس، میخواهیم به کالبد شکافی ریسکهای عملیاتی Shadow AI بپردازیم و بررسی کنیم چگونه میتوانید با استفاده از راهکارهای Fortinet، دید (Visibility) از دست رفته را بازیابی و بدون توقف نوآوری، حاکمیت داده را مجدداً برقرار کنید.
Shadow AI چیست و چرا با Shadow IT متفاوت است؟
در نگاه اول، ممکن است Shadow AI فقط نسخه جدیدی از Shadow IT و به معنای استفاده از ابزارها و سرویسهای خارج از کنترل سازمان؛ به نظر برسد. اما این مقایسه، بخش مهمی از واقعیت را نادیده میگیرد.
در Shadow IT، مسئله اصلی استفاده از نرمافزارها یا سرویسهایی است که توسط تیم امنیتی تایید نشدهاند. در این حالت، ریسک عمدتاً به دسترسی غیر مجاز، عدم انطباق با policyها و نبود کنترل روی endpoint یا cloud usage محدود میشد.
اما در Shadow AI، ماهیت ریسک کاملاً متفاوت است. در آن فقط با ابزاری ناشناخته طرف نیستیم بلکه با سیستمی مواجهایم که:
- دادهها را دریافت میکند.
- آنها را پردازش و بازتولید میکند.
- و در برخی موارد ذخیره یا برای آموزش مجدد استفاده میکند.
این کار یعنی دادههای سازمان نهتنها از محیط کنترل شده، خارج میشوند، بلکه وارد یک چرخه پردازشی میشوند که شفافیت بسیار محدودی دارد.
بهعنوان مثال، زمانی که developer شرکت بخشی از کد داخلی را برای بهینهسازی وارد یک ابزار GenAI مانند ChatGPT میکند، مسئله فقط «انتقال داده» نیست. این کد ممکن است در سیستم پردازش شود، در context مدل باقی بماند یا در شرایطی، برای بهبود مدل استفاده شود. در چنین سناریویی، شما نهتنها visibility ندارید، بلکه کنترلی روی lifecycle داده هم ندارید.
تفاوت کلیدی دیگر، در ماهیت خروجیهاست. در Shadow IT، خروجی سیستمها deterministic و قابل پیشبینی است. اما در AI، خروجیها ممکن است نادرست، ناقص یا گمراهکننده (hallucinated) باشند.
همچنین در صورت استفاده در فرآیندهای سازمانی، میتوانند ریسکهای عملیاتی و حتی reputational ایجاد کنند.
در نهایت، Shadow AI را باید نه بهعنوان یک subset از Shadow IT، بلکه باید بهعنوان یک سطح ریسک جدید در نظر بگیریم، جایی که دادهها پویا هستند، پردازش opaque است و کنترلهای سنتی عملاً ناکارآمد میشوند.
در ادامه، بررسی میکنیم چرا سرعت پذیرش AI از توان سازمانها برای ایجاد visibility جلو زده و این شکاف چگونه به ریسک تبدیل میشود.
در رسیس بیشتر بخوانید
چرا AI Adoption سریعتر از Visibility رشد میکند؟
رشد استفاده از AI در سازمانها در حال حاضر از مسیرهای رسمی عبور نمیکند بلکه از رفتار کاربران شروع میشود. تیمهای مختلف مانند توسعهدهندگان، بازاریابان و غیره برای افزایش سرعت و بهرهوری انجام تسکها، بدون اینکه منتظر تأیید IT یا تعریف یک چارچوب امنیتی باشند، مستقیماً سراغ استفاده از ابزارهای GenAI میروند. دلیل این موضوع نیز ساده است:
این ابزارها در دسترس هستند، نیاز به استقرار ندارند و از طریق مرورگر یا اکانت شخصی قابل استفادهاند. در نتیجه، adoption بهصورتbottom-up و نه top-down اتفاق میافتد.
اما در مقابل، ایجادvisibility همچنان به ابزارهای مانیتورینگ سنتی، کنترلهای شبکه و endpoint و فرآیندهای رسمی IT وابسته است.
از طرف دیگر، بسیاری از تعاملات با AI خارج از محیطهای مدیریت شده یعنی در دستگاههای شخصی، شبکههای خارج از سازمان یا در SaaSهایی خارج از لیست مجاز، انجام میشود. یعنی حتی اگر ترافیک شناسایی شود،context کافی برای تحلیل آن وجود ندارد. بهعنوان مثال ممکن است بدانید کاربر به یک سرویس AI متصل شده، اما ندانید چه دادهای ارسال شده یا در چه workflowای استفاده شدهاست.
در نهایت، شکافی بین سرعت واقعی استفاده از AI در سازمان و توانایی سازمان برای مشاهده و کنترل آن ایجاد میشود. این شکاف همان جایی است که Shadow AI شکل میگیرد و رشد میکند.
چرا مدلهای امنیتی سنتی در برابر Shadow AI شکست میخورند؟
مدلهای امنیتی سنتی بر این فرض بنا شدهاند که سیستمها شناختهشدهاند، دسترسیها قابل کنترل است و جریان داده قابل مشاهده است. اما Shadow AI این فرضها را از بین میبرد.
ابزارهای کنترلی فعلی ممکن است دسترسی به AI را ببینند، اما نمیدانند داخل آن چه اتفاقی میافتد؛ یعنی چه دادهای ارسال شده، چگونه پردازش شده و چه خروجیای تولید شدهاست. در نتیجه، شکاف بین visibility و control ایجاد میشود.
در چنین شرایطی، کنترلهای سنتی که برای مدیریت دسترسی طراحی شدهاند، نمیتوانند تعامل با AI و پردازش داده را بهدرستی پوشش دهند و همینجاست که Shadow AI به یک ریسک واقعی تبدیل میشود.
مقایسه مدلهای امنیتی سنتی با Shadow AI | ||
امنیت سنتی | Shadow AI | مؤلفه |
سیستمها مشخص و قابل inventory | ابزارها ناشناخته و خارج از کنترل | دید به سیستمها |
قابل اعمال و مدیریت | اغلب خارج از policy | کنترل دسترسی |
قابل مانیتور در مسیر انتقال | نامشخص در پردازش | دید به داده |
قابل پیشبینی (deterministic) | غیرشفاف و غیر قابل پیشبینی | پردازش داده |
محدود و جزیرهای | نیازمند دید یکپارچه | درک context |
شبکه و endpoint | خارج از محیطهای مدیریت شده | نقطه کنترل |
ریسکهای امنیتی و دادهای Shadow AIبرای سازمانها
ریسکهای Shadow AI همین حالا هم در اکثر سازمانها وجود دارند و مسئله این نیست که آیا اتفاق میافتند، بلکه این است که تا چه حد قابل مشاهده و کنترل هستند. مهمترین ریسکهای Shadow AI را میتوانیم در چند دسته زیر خلاصه کنیم:
- نشت و افشای داده (Data Exposure)
مهمترین ریسک، ورود دادههای حساس به ابزارهای AI است. وقتی کاربر اطلاعاتی مثل کد، داده مشتری یا اسناد داخلی را وارد یک ابزار GenAI میکند، سازمان کنترلی روی محل ذخیرهسازی، نحوه استفاده یا retention آن داده ندارد.
- از دست رفتن کنترل روی داده (Loss of Data Control)
حتی اگر provider ادعا کند دادهها امن هستند، مسئولیت نهایی همچنان با سازمان است. مشکل اینجاست که شما نمیتوانید lifecycle واقعی داده را مشاهده یا enforce کنید.
- خروجیهای غیر قابل اعتماد (AI Hallucination)
مدلهای AI میتوانند خروجیهایی تولید کنند که ظاهراً درست هستند اما در واقع ناقص، نادرست یا گمراهکنندهاند. اگر این خروجیها وارد فرآیندهای سازمانی یا تصمیمگیری شوند، ریسک عملیاتی و حتیreputational ایجاد میکنند.
- حملات جدید مانند Prompt Injection
با ورود AI به workflowها، سطح حمله هم تغییر کرده است. در حملاتی مثل prompt injection، مهاجم میتواند رفتار مدل را دستکاری کند یا باعث افشای اطلاعات شود. این نوع حملات در مدلهای سنتی امنیتی تعریف نشدهاند.
- ریسکهای انطباق (Compliance Risk)
با قوانین جدید AI regulations، سازمانها باید بدانند چه AIهایی استفاده میشوند و چه دادهای پردازش میشود. در صورتی که در Shadow AI چون سازمان دیدی به ابزارهای مورد استفاده ندارد، عملاً نمیتواند استفاده از آنها را بررسی (audit) یا الزامات compliance را اثبات کند.
چالشهای Compliance و Regulatory در Shadow AI
Shadow AI سازمانها را تنها از منظر امنیتی تهدید نمیکند؛ یکی از خطرناکترین لایههای آن ریسکهای انطباقی و قانونی است. هنگامی که دادهها بدون نظارت در ابزارهای GenAI استفاده میشوند، سازمان عملاً وارد فضایی میشود که با قوانین جدید، مانند EU AI Act و مقررات حوزه داده، همخوانی ندارد. چند چالش کلیدی در این زمینه وجود دارد:
- امکان شناسایی کامل سیستمهای در حال استفاده وجود ندارد.
- دادههای پردازش شده قابل ردیابی دقیق نیستند.
- ارائه گزارش قابل اعتماد برای audit یا regulator دشوار است.
این یعنی شکاف بین آنچه قوانین انتظار دارند و آنچه سازمان واقعاً میتواند نشان دهد. در عمل، حتی اگر سازمان سیاستهای قوی داشته باشد، بدون visibility روی استفاده واقعی از AI، امکان اثبات compliance وجود نخواهد داشت و این دقیقاً همان جایی است که ریسک قانونی شکل میگیرد.
در رسیس بیشتر بخوانید
چرا Visibility بهتنهایی کافی نیست و چرا به Context نیاز داریم؟
صرف داشتن visibility برای مدیریت Shadow AI کافی نیست. اگرچه کشف (discovery) استفاده از AI یک قدم ضروری است، اما بهتنهایی نمیتواند تصویر کامل ریسک را به ما بدهد.
به علاوه ریسک Shadow AI تنها با یک سیگنال قابل درک نیست و بهcorrelation بین چندین لایه مختلف نیاز دارد.
برای مثال:
- ترافیک شبکه ممکن است نشان دهد یک کاربر به یک سرویس AI متصل شدهاست، اما مشخص نمیکند چه دادهای ارسال شدهاست.
- فعالیت endpoint ممکن است تعامل با یک ابزار AI را نشان دهد، اما توضیح نمیدهد این تعامل در چه workflowای رخ داده یا شامل داده حساس بوده است.
در نتیجه، کنترلهای سنتی فقط دیدی جزئی و پراکنده از رفتار کاربر ارائه میدهند.
این fragmentation باعث میشود هیچکدام از لایههای امنیتی به تنهایی تصویر کامل از تعامل بین کاربر، داده و سیستمهای AI خارجی نداشته باشند. بدون این تصویر کامل، تشخیص اینکه یک استفاده «عادی» است یا «پرریسک»، بسیار دشوار میشود.
در نهایت، مدیریت مؤثر Shadow AI به shared visibility و context یکپارچه نیاز دارد. یعنی باید رفتار کاربر، جریان داده و سطح دسترسی بهصورت همزمان تحلیل شوند و امکان تصمیمگیری در لحظه وجود داشته باشد.
راهکار مدیریت Shadow AI در سازمانها با Security Fabric و رویکرد Fortinet
مدیریت Shadow AI دیگر با point solutions قابل انجام نیست. مسئله امروز این است که سازمانها به جای دید جزئی (partial visibility)، به یکsecurity fabric یکپارچه نیاز دارند که بتواند استفاده از AI را از سطح شبکه تا endpoint و cloud بهصورت پیوسته کنترل کند.
در رویکرد Fortinet، هدف این نیست که فقط استفاده از AI شناسایی شود، بلکه این است که visibility ، intelligence و enforcement در یک جریان واحد ترکیب شوند.
۱- Visibility در سطح شبکه (FortiGate& FortiOS)
در لایه شبکه، FortiOS از طریق application control و deep inspection امکان شناسایی استفاده از سرویسهای GenAI را فراهم میکند. این سطح از visibility نقطه شروع درک Shadow AI است. یعنی سازمان میتواند ببیند:
- چه کاربری به چه AI serviceای دسترسی دارد؟
- چه زمانی این دسترسی انجام شدهاست؟
- در چه زمینهای در حال استفاده است؟
۲- هوش تهدید و شناسایی سرویسها (FortiGuard Labs)
با کمک FortiGuard Labs، سرویسهای جدید AI بهصورت مداوم شناسایی و دستهبندی میشوند.
این موضوع باعث میشود حتی ابزارهای تازهظهور GenAI نیز از دید سازمان خارج نمانند و در policyها قابل کنترل باشند.
۳- کنترل در endpoint (FortiDLP)
در سطح endpoint، مشکل اصلی این است که ترافیک شبکه نمیتواند محتوای واقعی داده را نشان دهد.
FortiDLP این گپ (gap) را پر و امکان شناسایی دادههای حساس در لحظه تعامل را فراهم میکند. به این ترتیب، سازمان میتواند تشخیص دهد:
- چه دادهای در حال ارسال است؟
- آیا این داده حساس یا محرمانه است؟
۴- کنترل در محیطهای توزیع شده (FortiSASE)
با توجه به اینکه استفاده از AI محدود به شبکه داخلی نیست،FortiSASE امکان اعمال سیاستهای امنیتی یکسان را در محیطهای remote و cloud فراهم میکند. این یعنی سیاستهای امنیتی همچنان یکسان روی کاربر داخل یا خارج سازمان یا روی دستگاه مدیریت شده یا شخصی اعمال میشوند.
در این معماری، شبکه نقش ایجاد visibility را بر عهده دارد، endpoint زمینه درک داده و context را فراهم میکند، cloud لایه اجرای سیاستهای امنیتی (policy enforcement) را پوشش میدهد و threat intelligence نیز مسئول تطبیق و بهروزرسانی مداوم کنترلها در برابر تهدیدات جدید است.
در نهایت،Shadow AI از یک ریسک نامرئی به رفتاری قابل مشاهده و قابل کنترل در کل security fabric تبدیل میشود.
مروری بر آنچه در مورد Shadow AI و پیامدهای امنیتی آن گفتیم
هوش مصنوعی در حال تبدیل شدن به بخشی از نحوه انجام کار در سراسر سازمانهاست. در همین حال، استفادههای غیر مدیریت شده از AI بهتدریج به رفتار پایه (baseline behavior) در محیطهای کاری تبدیل میشود.
سازمانهایی که Shadow AI را مسئلهای موقت تلقی میکنند، اغلب با گذشت زمان با کاهش visibility و افزایش سطح exposure مواجه میشوند. زیرا این نوع استفاده از AI بهجای کاهش، در حال نهادینه شدن در فرآیندهای روزمره است.
رویکرد مؤثرتر این است که استفاده از AI بهعنوان بخشی از مدلهای موجود امنیت و شبکه در نظر گرفته شود؛ بهگونهای که این استفادهها قابل مشاهده، قابل governance و همراستا با الزامات عملیاتی و مقرراتی باشند.
