تهدیدهای هوشمند: پیمایش هوش مصنوعی و تعادل امنیتی در Salesforce

هوش مصنوعی (AI) نحوه کار ما و نحوه کار مهاجمان را تغییر می دهد.
همان ابزارهایی که تیم‌های Salesforce ما را باهوش‌تر و سریع‌تر می‌کنند، می‌توانند خطرات جدیدی را نیز در صورت عدم توجه ایجاد کنند. به عنوان سرپرست، شما در خط مقدم این تغییر قرار دارید و مسئول پیکربندی، مدیریت و محافظت از داده هایی هستید که موفقیت سازمان شما را تقویت می کند.

بیایید بررسی کنیم که چگونه این تهدیدات جدید در حال ظهور هستند – و چگونه مدیران Salesforce می توانند از خود در برابر آنها محافظت کنند. در اینجا چیزی است که هر مدیر باید بداند و آنچه می توانید امروز انجام دهید تا سازمان خود را محافظت کنید زیرا تهدیدات مبتنی بر هوش مصنوعی همچنان در حال تکامل هستند.

«تهدیدهای هوشمند» چیست؟

اصطلاح “تهدیدهای هوشمند” به انواع آشنای حملات مانند فیشینگ، بدافزار و باج افزار اشاره دارد که اکنون توسط هوش مصنوعی تقویت می شوند. مهاجمان از هوش مصنوعی برای تولید پیام‌ها، صداها و ویدیوهای بسیار متقاعدکننده استفاده می‌کنند که مهندسی اجتماعی را بسیار مؤثرتر می‌کند. از تماس‌های فیشینگ ایجاد شده توسط هوش مصنوعی گرفته تا جعل هویت عمیق، این روش‌ها برای فریب کاربران طراحی شده‌اند تا داده‌ها یا دسترسی‌هایی را که معمولاً از آن‌ها محافظت می‌کنند، تحویل دهند.

ما مهاجمانی را می بینیم که از هوش مصنوعی برای موارد زیر استفاده می کنند:

• کاردستی پیام های فیشینگ بسیار شخصی سازی شده که طبیعی به نظر می رسند و از فرستندگان آشنا می آیند.
• ایجاد کنید دیپ فیک و کلون صدا جعل هویت افراد مورد اعتماد
• تلقین یا دستکاری کنید کدها و تنظیمات مخرب از طریق ابزارهای کدنویسی هوش مصنوعی

هوش مصنوعی این حملات را باورپذیرتر و مقیاس پذیرتر می کند. اما خبر خوب این است که ما می توانیم از هوش مصنوعی برای مقابله با آنها به همان میزان موثر استفاده کنیم.

بزرگترین خطرات مبتنی بر هوش مصنوعی برای مدیران

در اینجا برخی از بزرگترین خطراتی که هوش مصنوعی وارد یک محیط Salesforce می‌کند و اینکه چرا برای شما اهمیت دارد، آورده شده است.

1. فیشینگ و جعل هویت ایجاد شده توسط هوش مصنوعی

مهاجمان می توانند از هوش مصنوعی برای نوشتن ایمیل های فیشینگ بی عیب و نقص استفاده کنند – حتی با تقلید از ارتباطات داخلی یا اعلان های Salesforce. آنها طراحی شده اند تا کاربران را فریب دهند تا اعتبارنامه ها را به اشتراک بگذارند یا از اقدامات مخرب چشم پوشی کنند.

چه باید کرد:

• آگاهی امنیتی را افزایش دهید و این را تأیید کنید احراز هویت چند عاملی (MFA) برای هر ورود فعال است. MFA یکی از مؤثرترین کنترل‌هایی است که ما داریم.
• به طور منظم مجوزها را بررسی کنید و اصل کمترین امتیاز را اعمال کنید — به کاربران فقط دسترسی لازم را بدهید، فقط تا زمانی که به آن نیاز دارند. این تأثیر را در صورت به خطر انداختن اعتبارنامه ها محدود می کند.
• برای محدود کردن مکان و زمان ورود به سیستم، کنترل‌های دسترسی، مانند محدودیت‌های مبتنی بر مکان یا IP را اضافه کنید. محدود کردن احراز هویت به شبکه‌ها یا دستگاه‌های قابل اعتماد به محدود کردن خطر در صورت موفقیت‌آمیز بودن تلاش فیشینگ کمک می‌کند.

2. استفاده ناامن از ابزارهای هوش مصنوعی

آزمایش با LLM می‌تواند هیجان‌انگیز باشد، اما درخواست‌هایی که شامل داده‌های مشتری یا اطلاعات شخصی می‌شود می‌تواند به طور ناخواسته داده‌های حساس خارج از سازمان شما را افشا کند.

چه باید کرد: دستورالعمل های داخلی روشنی برای نحوه استفاده از ابزارهای هوش مصنوعی ایجاد کنید. به تیم ها یادآوری کنید که هرگز اطلاعات محرمانه یا شخصی را در درخواست ها وارد نکنند.

3. مجوزهای بیش از حد و حساب های دارای امتیاز بیش از حد

با گذشت زمان، کاربران و ادغام‌ها می‌توانند دسترسی‌هایی را که دیگر نیازی ندارند، جمع کنند. اگر هر یک از این اعتبارنامه ها فیش شوند یا مورد سوء استفاده قرار گیرند، مجوزهای گسترده یک حادثه کوچک را به یک حادثه بزرگ تبدیل می کند.

چه باید کرد: اصل کمترین امتیاز را اعمال کنید. تعداد مدیران را کم نگه دارید، فقط مجوزهای مورد نیاز برای یک نقش را تنظیم کنید و در صورت عدم نیاز، دسترسی را حذف کنید. مجموعه‌های مجوز، نمایه‌ها و دامنه برنامه‌های کاربردی مرتبط را به طور منظم مرور کنید. ارتفاع موقت یا با زمان محدود را به دسترسی گسترده دائمی ترجیح می دهند.

شناسایی و جلوگیری از حملات هدفمند کاربر

فناوری به سرعت در حال تغییر است، اما بیشتر حملات همچنان انسان را هدف قرار می دهند تا به یک حساب کاربری یا سیستم دسترسی پیدا کنند – اغلب یک کاربر با نیت خوب تصمیم می گیرد. به همین دلیل است که انتخاب های پیکربندی شما به عنوان مدیر بسیار مهم است.

Salesforce ابزارهای قدرتمندی را برای محافظت از داده های شما در اختیار شما قرار می دهد. با تمرکز بر موارد ضروری شروع کنید:

• بررسی وضعیت امنیتی: به سرعت پیکربندی‌های نادرست را که خطرات غیرضروری ایجاد می‌کنند، شناسایی و تصحیح کنید.
• محدوده IP ورود: مکان هایی که کاربران می توانند به سازمان شما دسترسی داشته باشند را کنترل کنید.
• وزارت امور خارجه: اکثر تلاش‌های دسترسی کاربران غیرمجاز را مسدود کنید.
• سپر دید عمیق تری به رفتار و الگوهای دسترسی به داده ارائه می دهد و به شما کمک می کند تا مشکلات را قبل از تشدید آنها تشخیص دهید.

راه حل های پیکربندی کوچک اضافه شده است. آنها هستند که یک کلیک ساده را از تبدیل شدن به یک حادثه امنیتی جلوگیری می کنند.

چگونه هوش مصنوعی می تواند به شما در محافظت از خود کمک کند

همان فناوری که این “تهدیدهای هوشمند” را تقویت می کند، می تواند دفاع شما را نیز هوشمندتر کند.

در Salesforce، ما هوش مصنوعی را در ابزارهای امنیتی خود به گونه‌ای تعبیه کرده‌ایم که به مدیران کمک می‌کند تا ریسک را شناسایی، پاسخ دهند و حتی پیش‌بینی کنند.

• لایه اعتماد تضمین می کند که عملکردهای مولد هوش مصنوعی با جداسازی داده ها، حفظ صفر داده ها و تشخیص سمیت طراحی شده اند.
• Agentforce در مرکز امنیت از تجزیه و تحلیل و تشخیص ناهنجاری برای شناسایی فعالیت غیرعادی بین کاربران و سازمان ها استفاده می کند.

زمانی که هوش مصنوعی به دقت مورد استفاده قرار گیرد، می تواند یکی از بزرگترین متحدان شما در حفاظت از داده ها و تقویت اعتماد باشد.

برنامه اقدام اداری

اگر می‌خواهید از کجا شروع کنید، در اینجا یک چک لیست ساده وجود دارد که به شما کمک می‌کند بین نوآوری و امنیت در سازمان خود تعادل برقرار کنید:

1. مروری بر دسترسی و ادغام.
   • اتصالات API و برنامه‌های مرتبط را بررسی کنید و هرگونه ادغام غیر ضروری را حذف کنید.
   • مجوزهای غیر ضروری را از نمایه های کاربر، به ویژه مجوزهای سطح مدیریت حذف کنید.
2. تنظیمات MFA و جلسه را مرور کنید.
   • نیاز به MFA برای هر ورود و فعال کردن MFA مبتنی بر جلسه برای امنیت بیشتر.
   • از محدوده IP ورود برای کاهش قرار گرفتن در معرض ورودهای غیرمجاز استفاده کنید.
3. از محصولات Security Center و Shield استفاده کنید.
   • یک دید واحد از وضعیت امنیتی سازمان خود دریافت کنید.
   • هنگامی که مجوزها یا تنظیمات تغییر می کند مطلع شوید.
4. به کاربران خود آموزش دهید.
   • جلسات آگاهی آموزشی یا شبیه سازی فیشینگ برای آموزش کاربران خود برگزار کنید.
   • فرهنگ گزارش دادن هر چیزی مشکوک را تشویق کنید.
5. مطلع باشید.

ایجاد تعادل بین نوآوری و اعتماد

هوش مصنوعی روش ساخت، کار و محافظت ما را متحول می کند. به عنوان مدیران Salesforce، شما هم به عنوان مالک سیستم و هم به عنوان کارمند مورد اعتماد نقش منحصر به فردی در این تحول دارید.

موقعیت های امنیتی مناسب، نوآوری را پایدار می کند. وقتی با قصد پیکربندی می‌کنید، به طور فعال نظارت می‌کنید و از ابزارهای موجود استفاده می‌کنید، سازمان و شرکت خود را قوی‌تر می‌کنید.