حاکمیت ایجنت های هوش مصنوعی با مدیریت داده های سازمانی

وقتی کنترل ایجنت های هوشمند از دل داده های سازمان شروع می شود

حاکمیت ایجنت های هوش مصنوعی بدون مدیریت داده های سازمانی بیشتر شبیه قفل کردن در بعد از سرقت است. برای استفاده امن و قابل کنترل از هوش مصنوعی سازمانی، باید از همان ابتدا تکلیف دسترسی به اطلاعات، امنیت داده، کیفیت منابع و مسئولیت تصمیم ها روشن باشد. ایجنتی که به داده های حساس وصل می شود، فقط یک ابزار ساده نیست؛ ممکن است بخواند، تحلیل کند، تصمیم بگیرد و حتی دست به اقدام بزند.

ماجرا از جایی جدی تر می شود که این ایجنت ها وارد ایمیل، پرونده مشتریان، گزارش های مالی، سامانه منابع انسانی و ابزارهای عملیاتی می شوند. آن ها دیگر فقط جواب یک سؤال را نمی دهند؛ می توانند چند مرحله را پشت سر هم اجرا کنند. پس اگر داده ها شلخته، قدیمی یا بدون سطح بندی باشند، خروجی هم قابل اعتماد نخواهد بود.

مطالعه مقاله قبلی در دسته بندی موبایل با عنوان موتورولا Signature 27 با قدرتمندترین تراشه اسنپدراگون.

ایجنت هوش مصنوعی فقط یک چت بات باهوش تر نیست

چت بات های معمولی اغلب منتظر می مانند تا کاربر چیزی بپرسد. پاسخ می دهند و کار تمام می شود. اما ایجنت هوش مصنوعی می تواند هدف بگیرد، مسیر رسیدن به آن را پیدا کند، ابزارهای مختلف را به کار بیندازد و نتیجه را دوباره بررسی کند.

مثلا یک ایجنت فروش ممکن است سابقه خرید مشتری را بخواند، قراردادهای قبلی را بررسی کند، تخفیف مناسب پیشنهاد دهد و پیش نویس ایمیل را آماده کند. اگر مجوز داشته باشد، حتی شاید همان ایمیل را ارسال یا اطلاعات جدید را در سامانه ثبت کند. این سطح از استقلال جذاب است، ولی شوخی بردار نیست.

وقتی نرم افزار فقط اطلاعات نمایش می دهد، کنترل آن نسبتا راحت است. اما وقتی همان نرم افزار قادر به اقدام باشد، یک دسترسی اشتباه می تواند خیلی سریع به یک حادثه واقعی تبدیل شود. برای همین، بررسی رفتار مدل به تنهایی کافی نیست؛ باید بدانیم ایجنت دقیقا چه داده ای را می بیند و با آن چه کاری انجام می دهد.

داده های آشفته، ایجنت های غیرقابل پیش بینی می سازند

خیلی از شرکت ها هنوز نمی دانند تمام اطلاعات حساسشان کجا ذخیره شده است. بخشی داخل فضای ابری است، بخشی در نرم افزارهای قدیمی خاک می خورد و بخشی هم بین فایل های اکسل، پیام رسان ها و ایمیل ها پخش شده. در چنین شرایطی، اتصال یک ایجنت قدرتمند می تواند آشفتگی موجود را چند برابر کند.

اگر یک فایل حقوق کارکنان بدون برچسب مشخص کنار اسناد عمومی قرار گرفته باشد، ایجنت ممکن است هر دو را در یک جست وجو ببیند. اگر گزارش قدیمی با نسخه جدید تفاوت داشته باشد، شاید منبع اشتباه را مبنای تصمیم قرار دهد. حتی بهترین مدل هم نمی تواند از داده ای که نادرست یا ناقص است، همیشه نتیجه درست بیرون بکشد.

مدیریت داده های سازمانی باید شامل شناسایی منابع، دسته بندی اطلاعات، حذف نسخه های تکراری، تعیین مالک داده و کنترل چرخه عمر آن باشد. شاید این کار در ظاهر هیجان هوش مصنوعی مولد را نداشته باشد، اما همان زیرساختی است که همه چیز روی آن سوار می شود.

مجوز کاربر همیشه برای ایجنت کافی نیست

یکی از روش های رایج این است که ایجنت با سطح دسترسی همان کاربر فعالیت کند. این راه در نگاه اول منطقی است، اما یک مشکل بزرگ دارد: بسیاری از کاربران از قبل به اطلاعاتی دسترسی دارند که واقعا برای کار روزانه شان لازم نیست.

در طول سال ها، افراد به گروه های مختلف اضافه می شوند، نقششان تغییر می کند و پروژه ها تمام می شوند؛ ولی مجوزها معمولا سر جای خودشان باقی می مانند. حالا اگر یک ایجنت بتواند تمام این دسترسی های فراموش شده را با سرعت بالا جست وجو کند، ریسک کوچک قبلی به یک خطر جدی تبدیل می شود.

ایجنت همچنین می تواند داده های بی خطر را کنار هم بگذارد و از ترکیب آن ها اطلاعات حساسی بسازد. مثلا نام مشتری، زمان قرارداد، قیمت محصول و محتوای یک پیام داخلی شاید جداگانه محرمانه به نظر نرسند؛ ولی ترکیبشان می تواند جزئیات یک معامله مهم را آشکار کند.

پس اصل کمترین سطح دسترسی باید درباره ایجنت ها سخت گیرانه تر اجرا شود. مجوز باید به هدف، زمان، نوع عملیات و حساسیت داده وابسته باشد؛ نه اینکه یک اجازه کلی صادر شود و همه امیدوار باشند اتفاق بدی نمی افتد.

حاکمیت باید خود داده را دنبال کند

سازمان ها معمولا امنیت را دور برنامه ها، کاربران یا دستگاه ها می چینند. این رویکرد هنوز لازم است، ولی برای عصر ایجنت های خودکار کافی نیست. داده ممکن است بین چند سامانه جابه جا، خلاصه، کپی یا در خروجی تازه ای بازتولید شود.

یک سیاست درست باید همراه داده حرکت کند. اگر سندی محرمانه است، خلاصه تولیدشده از آن هم نمی تواند ناگهان عمومی باشد. اگر نگهداری اطلاعات مشتری فقط برای مدت مشخصی مجاز است، نسخه ای که ایجنت در حافظه موقت ساخته نیز باید از همان قانون پیروی کند.

اینجاست که حاکمیت ایجنت های هوش مصنوعی به سیاست های پویا نیاز پیدا می کند. سیستم باید در لحظه بررسی کند چه کسی درخواست داده، ایجنت برای چه هدفی فعال شده، اطلاعات از کجا آمده و اقدام بعدی چه پیامدی دارد. یک پاسخ ثابت برای تمام موقعیت ها جواب نمی دهد.

شفافیت؛ چیزی که بعدا نمی شود به سیستم چسباند

اگر یک ایجنت تصمیم اشتباهی بگیرد، اولین سؤال این است: «چرا؟» برای پاسخ دادن باید مسیر تصمیم قابل ردیابی باشد. سازمان لازم است بداند چه درخواستی ثبت شده، کدام منابع استفاده شده اند، چه ابزاری فراخوانی شده و در نهایت چه تغییری رخ داده است.

ثبت رویدادها نباید فقط به ورودی و خروجی مدل محدود شود. ممکن است پاسخ نهایی کاملا عادی به نظر برسد، اما ایجنت در میانه مسیر به یک پوشه حساس سر زده باشد. بدون گزارش دقیق، چنین رفتاری دیده نمی شود و تیم امنیت هم نمی تواند علت حادثه را پیدا کند.

البته ثبت همه چیز هم نباید باعث ساخت انباری تازه از اطلاعات محرمانه شود. گزارش ها باید حداقل اطلاعات لازم را نگه دارند، رمزگذاری شوند و دسترسی به آن ها محدود باشد. شفافیت خوب یعنی امکان بررسی رفتار سیستم، نه تکثیر بی حساب داده حساس.

کیفیت داده مستقیما روی کیفیت تصمیم اثر دارد

بحث فقط درباره نشت اطلاعات نیست. داده ضعیف می تواند تصمیم ضعیف بسازد. اگر اطلاعات مشتری ناقص باشد، ایجنت پیشنهاد نامناسب می دهد. اگر سوابق موجودی به روز نباشد، سفارشی ثبت می کند که امکان تحویلش وجود ندارد. اگر قوانین داخلی قدیمی باشند، شاید فرآیندی را پیشنهاد کند که دیگر معتبر نیست.

برای جلوگیری از این وضعیت، هر مجموعه داده باید یک مالک مشخص داشته باشد. آن شخص یا تیم مسئول است که دقت، تازگی، ساختار و کاربرد مجاز اطلاعات را مشخص کند. این مسئولیت نباید گردن تیم فناوری اطلاعات بیفتد؛ واحدهای کسب وکار بهتر از هر کسی معنی داده های خودشان را می فهمند.

مدیریت داده های سازمانی وقتی نتیجه می دهد که یک پروژه موقت نباشد. داده دائما تغییر می کند و سیاست ها هم باید همراه آن به روز شوند. ارزیابی کیفیت، کشف اطلاعات حساس و بازبینی مجوزها باید به بخشی از عملیات عادی شرکت تبدیل شود.

کنترل انسانی هنوز از مُد نیفتاده است

خودکارسازی قرار نیست انسان را از تمام تصمیم ها حذف کند. بعضی اقدامات کم خطر می توانند کاملا خودکار باشند؛ مثل مرتب کردن درخواست ها یا خلاصه سازی اسناد عمومی. اما تصمیم هایی که پیامد مالی، حقوقی یا انسانی دارند، بهتر است یک مرحله تأیید داشته باشند.

پرداخت وجه، حذف انبوه اطلاعات، تغییر قرارداد، رد درخواست استخدام یا ارسال فایل محرمانه نمونه هایی هستند که نباید بی سروصدا اجرا شوند. در این نقاط، ایجنت می تواند پیشنهاد بدهد و کار را آماده کند، ولی تأیید نهایی باید دست فرد مسئول بماند.

این کنترل انسانی نباید نمایشی باشد. اگر کاربر فرصت بررسی منبع، دلیل پیشنهاد و پیامد اقدام را نداشته باشد، دکمه «تأیید» فقط یک تشریفات بی فایده است. رابط کاربری باید اطلاعات لازم را واضح، کوتاه و قابل فهم نشان دهد.

از پروژه آزمایشی کوچک شروع کنید

راه اندازی ایجنت در کل سازمان از همان روز اول، ایده چندان عاقلانه ای نیست. بهتر است ابتدا یک فرآیند مشخص با داده محدود و ریسک پایین انتخاب شود. این محدوده کوچک کمک می کند ضعف های فنی و سیاستی قبل از گسترش پروژه آشکار شوند.

در مرحله آزمایشی باید سناریوهای عادی و غیرعادی را امتحان کرد. اگر کاربر از ایجنت بخواهد قانون را دور بزند چه می شود؟ اگر سند آلوده حاوی دستور مخفی باشد چطور؟ اگر منبع اطلاعات ناگهان قطع شود، ایجنت متوقف می شود یا با حدس خودش ادامه می دهد؟

تیم های امنیت، حقوقی، داده، منابع انسانی و کسب وکار باید از ابتدا کنار هم باشند. سپردن همه چیز به تیم فنی معمولا باعث می شود بخشی از ریسک های واقعی دیده نشود. هوش مصنوعی سازمانی فقط یک مسئله نرم افزاری نیست؛ با اعتماد، قانون، فرهنگ کاری و اعتبار برند گره خورده است.

حاکمیت خوب ترمز نوآوری نیست

گاهی مدیران فکر می کنند قوانین بیشتر، سرعت استفاده از هوش مصنوعی را پایین می آورد. در عمل، نبود قانون روشن پروژه ها را کندتر می کند. وقتی هیچ کس نمی داند چه داده ای مجاز است یا مسئول خطا چه کسی خواهد بود، تیم ها یا بیش ازحد محتاط می شوند یا بی محابا جلو می روند.

چارچوب شفاف به افراد اجازه می دهد سریع تر تصمیم بگیرند. وقتی سطح بندی اطلاعات، محدودیت ابزارها، روش تأیید و مسیر گزارش حادثه معلوم باشد، هر پروژه مجبور نیست همه چیز را از صفر اختراع کند. حاکمیت درست، مسیر امن را ساده تر از مسیر خطرناک می سازد.

در نهایت، حاکمیت ایجنت های هوش مصنوعی از خرید یک ابزار نظارتی شروع نمی شود. نقطه آغاز، شناخت داده ها و مرتب کردن دسترسی هاست. سازمانی که نمی داند چه اطلاعاتی دارد، نمی تواند درباره استفاده هوشمندانه از آن تصمیم بگیرد.

ایجنت ها هر روز تواناتر می شوند و احتمالا خیلی زود بخش عادی محیط کار خواهند بود. برنده واقعی شرکتی نیست که فقط زودتر آن ها را فعال کند؛ برنده کسی است که سرعت را با امنیت، پاسخ گویی و اعتماد همراه کند. برای رسیدن به آن نقطه، باید اول خانه داده ها را مرتب کرد و بعد کلیدش را دست ایجنت داد.

برای دریافت جدیدترین اخبار تکنولوژی با مجله هوش مصنوعی با ما همراه باشید