خطرات امنیتی استفاده از هوش مصنوعی شخصی کارکنان در سازمانها
اقتصاد ایران: اقتصادنیوز: اتصال دستیاران هوش مصنوعی شخصی کارکنان به حسابها و اسناد شرکتی، چالشهای امنیتی تازهای برای سازمانها به وجود آورده که فراتر از چارچوبهای سنتی مدیریت فناوری است.
به گزارش اقتصادنیوز به نقل از فوربز، بسیاری از کارکنان برای افزایش سرعت و آمادگی در جلسات کاری، دستیاران هوش مصنوعی شخصی خود را به ایمیل و فایلهای سازمانی متصل میکنند. هرچند این اقدام با نیت بهبود بهرهوری انجام میشود، اما میتواند پیامدهای امنیتی پیشبینینشدهای برای کسبوکارها به همراه داشته باشد. دستیاران نسل جدید مانند Muse متعلق به متا یا ابزارهای مشابه شرکتهای اوپنایآی و گوگل، صرفاً به گفتگو محدود نمیشوند، بلکه میتوانند امور روزمره را به شکل مستقل و در پسزمینه پیش ببرند.
آمارها حاکی از استقبال سریع کاربران از این فناوری است. بر اساس گزارشها، شمار کاربران Muse ظرف حدود شش هفته پس از عرضه از مرز ۱۰ میلیون گذشت. همچنین نتایج نظرسنجی مؤسسه منلو ونچرز نشان میدهد که ۳۲ درصد از کاربران هوش مصنوعی در آمریکا به این ابزارها اجازه دادهاند بدون نیاز به تأیید نهایی، اقداماتی را از جانب آنها اجرا کنند. این روند یادآور ورود گوشیهای هوشمند شخصی به فضای کار در سالهای گذشته است، هرچند تفاوتهای بنیادی مهمی با آن دوره دارد.
تفاوت دستیاران عاملمحور با نرمافزارهای سنتی
در نرمافزارهای سنتی، فرایندهای کاری از پیش تعریف شدهاند، اما عاملهای هوش مصنوعی میتوانند با توجه به دستور کلی کاربر، ابزارها و مراحل بعدی را خودشان انتخاب کنند. به این ترتیب، دسترسیهایی که کاربر در زمان راهاندازی با بیدقتی تأیید کرده، میتواند به هوش مصنوعی اجازه دهد دست به اقداماتی بزند که کارمند هرگز انتظار آن را نداشته است.
برای نمونه، اگر کارمندی از دستیار خود بخواهد مکاتبات قبلی را بررسی و گزارشی آماده کند، هوش مصنوعی ممکن است به هزاران ایمیل دیگر و بحثهای داخلی نامربوط نیز دسترسی پیدا کند. چنانچه در دستور بعدی از ابزار خواسته شود پیام پیگیری برای مشتری ارسال کند، این دستیار ممکن است اطلاعات محرمانه نظیر تغییرات قیمتی اعلامنشده را مرتبط تشخیص دهد و ناخواسته برای مشتری ارسال کند، بدون آنکه تخلف صریحی از منظر سطوح دسترسی رخ داده باشد.
پنج راهبرد برای مدیریت امن هوش مصنوعی شخصی
کارشناسان امنیت سایبری برای مهار این ریسکها پنج راهکار اساسی پیشنهاد میکنند: نخست، تفکیک هویت کارمند از دستیار هوش مصنوعی در گزارشهای سیستمی، تا مشخص باشد کدام اقدام توسط انسان و کدام توسط هوش مصنوعی انجام گرفته است. دوم، بررسی دقیق اتصالات و ارزیابی نحوه مدیریت دادهها و اعتبارسنجی توسط ارائهدهنده سرویس.
راهکار سوم، محدودسازی دسترسی بر اساس مأموریت مشخص و تفکیک مجوز خواندن از ارسال داده است. چهارم، الزام به بازبینی و تأیید انسانی در تصمیمات پرپیامد، بهویژه پیش از ارسال ایمیلها و فایلهای خارجی. در نهایت، پیشبینی یک کلید قطع فوری برای تیمهای امنیتی، تا در صورت بروز هرگونه رفتار مشکوک، امکان لغو دسترسی دستیار هوش مصنوعی بدون غیرفعالسازی حساب کاربری کارمند فراهم باشد.
تجربه استفاده از دستگاههای شخصی در سازمانها نشان داده است که نیاز و تمایل کارکنان اغلب سریعتر از سیاستگذاریهای رسمی پیش میرود. از این رو، مدیران امنیتی باید بهجای ممنوعیت صرف، مسیرهای مشخص و کنترلشدهای برای بهرهگیری امن از این دستیاران ایجاد کنند.
اکو ایران | ECO IRAN
ترکیه | Turkiye
آذربایجان| Azerbaijan
ترکمنستان|Turkmenistan
تاجیکستان|Tajikistan
قزاقستان |Kazakhstan
قرقیزستان |Kyrgyzstan
ازبکستان |Uzbekistan
افغانستان |Afghanistan
پاکستان | Pakistan
بانک مرکزی
بانک ملّی ایران
بانک ملّت
بانک تجارت
بانک صادرات ایران
بانک ایران زمین
بانک پاسارگاد
بانک آینده
بانک پارسیان
بانک اقتصادنوین
بانک دی
بانک خاورمیانه
بانک سامان
بانک سینا
بانک سرمایه
بانک کارآفرین
بانک گردشگری
بانک رسالت
بانک توسعه تعاون
بانک توسعه صادرات ایران
قرض الحسنه مهر ایران
بانک صنعت و معدن
بانک سپه
بانک مسکن
رفاه کارگران
پست بانک
بانک مشترک ایران و ونزوئلا
صندوق توسعه ملّی
مؤسسه ملل
بیمه مرکزی
بیمه توسعه
بیمه تجارت نو
ازکی
بیمه ایران
بیمه آسیا
بیمه البرز
بیمه دانا
بیمه معلم
بیمه پارسیان
بیمه سینا
بیمه رازی
بیمه سامان
بیمه دی
بیمه ملت
بیمه نوین
بیمه پاسارگاد
بیمه کوثر
بیمه ما
بیمه آرمان
بیمه تعاون
بیمه سرمد
بیمه اتکایی ایرانیان
بیمه امید
بیمه ایران میهن
بیمه متقابل کیش
بیمه آسماری
بیمه حکمت صبا
بیمه زندگی خاورمیانه
کارگزاری مفید
کارگزاری آگاه
کارگزاری کاریزما
کارگزاری مبین سرمایه