علت جوابهای اشتباه هوش مصنوعی چیست؟ | پاسخهای غلط بخاطر ضعف مدل است؟ | آیا با دانش متناقض مواجهیم؟
اقتصاد ایران: اقتصادنیوز: یک مدیر حوزه مدیریت دانش میگوید پاسخهای اشتباه چتباتها معمولاً از ضعف مدل نیست، بلکه از دانش متناقض و بدون مالکیت در سازمانها میآید؛ موضوعی که پرونده ایر کانادا آن را علنی کرد.
به گزارش اقتصادنیوز به نقل از فوربز، ساگی الیاهو، مدیرعامل KMS Lighthouse، در تحلیلی برای فوربس مینویسد که بسیاری از شرکتها بر پایه دانشی کار میکنند که با خودش تناقض دارد: سیاست بازگشت کالا در مرکز راهنما ۳۰ روز است، متن راهنمای کارشناس برای مشتریان وفادار ۴۵ روز و سندی که سال گذشته منتشر شده ۳۰ روز مگر برای کالاهای حراجی. به گفته او، این تناقضها معمولاً یکباره ساخته نشدهاند و طی سالها و اغلب با دلایل موجه انباشته شدهاند.
کارکنان باتجربه یاد میگیرند کدام سند قدیمی است و در تعارض میان سیستم و تجربه، معمولاً تجربه میدانی را ملاک میگیرند. اما هوش مصنوعی این لایه اصلاح غیررسمی را ندارد؛ وقتی مدل بر پایه محتوای سازمان به مشتری پاسخ میدهد، نمیداند کدام نسخه معتبر است، یکی را انتخاب میکند و آن را با اطمینان بیان میکند.
دانش متناقض، مشکل تازهای نیست
نویسنده پرونده ایر کانادا (Air Canada) در سال ۲۰۲۴ را مثال میزند؛ دیوانی در کانادا این شرکت را مسئول دانست چون چتبات وبسایتش به مسافری داغدار گفته بود میتواند پس از سفر برای بازپرداخت کرایه سوگواری درخواست بدهد، هرچند صفحه سیاست رسمی شرکت چیز دیگری میگفت. ایر کانادا استدلال کرد اطلاعات درست جای دیگری از سایت موجود است، اما دیوان نپذیرفت، چون چتبات بخشی از وبسایت و وبسایت متعلق به شرکت بود. به نوشته الیاهو، این پرونده بیش از آنکه شکست هوش مصنوعی باشد، شکست مدیریت دانش است.
وقتی هوش مصنوعی مستقیم به مشتری پاسخ میدهد، تناقض دانش از یک مزاحمت داخلی به تعهدی بیرونی تبدیل میشود و شرکت ممکن است ناچار باشد پشت آنچه سیستم گفته است بایستد.
چرا مدل بهتر کافی نیست
واکنش اولیه به پاسخ اشتباه، مقصر دانستن مدل و خرید مدل بهتر است. به تجربه نویسنده، مشکل معمولاً مدل نیست؛ لایه دانش زیر آن است که کیفیت هر پاسخ را تعیین میکند. بسیاری از سازمانها در لایه قابلمشاهده سرمایهگذاری کردهاند، اما کمتر پرسیدهاند آیا همه محتوایشان در یک اتاق با هم توافق دارند.
دانش در سازمانها میان ویکیها، درایوهای مشترک، یادداشت تیکتها، اسناد سیاست، اسلایدهای آموزشی و رشتههای ایمیل پخش است. هر قطعه هنگام نوشتن درست بوده، اما امروز کمتر مالکی دارد و بسیاری از آنها هرگز منقضی نمیشوند. ابزارهای بازیابی محتوا را پیدا میکنند، اما تصمیم نمیگیرند کدام سند معتبر است؛ این داوری تحریریهای باید پیش از رسیدن پرسش به هوش مصنوعی انجام شود.
راهحل: دانش را مانند محصول مدیریت کنیم
شرکتهایی که این کار را درست انجام میدهند، دانش را بیشتر شبیه محصول میبینند تا کتابخانه و به مدیریت دانش همان توجهی را میدهند که به خود هوش مصنوعی. در این رویکرد، برای هر پرسش یک پاسخ وجود دارد، هر بخش دانش مشتریمحور مالک مشخص و تاریخ بازبینی دارد، انسان و ماشین از یک پاسخ تأییدشده میخوانند، دانش پیش از گسترش هوش مصنوعی به موضوع یا کانال تازه بازبینی میشود و شکافهای دانش بهعنوان نشانه ضعف یا نبود محتوا دیده میشوند.
در بخش پایانی، نویسنده میگوید همه میخواهند بدانند کدام مدل باهوشتر است، اما مدلها به هم نزدیک میشوند و رقبا میتوانند همان هوشمندی را بخرند. آنچه خریدنی نیست، دانش سازمان و نظمی است که آن را منسجم، تأییدشده و یکدست نگه میدارد.
اکو ایران | ECO IRAN
ترکیه | Turkiye
آذربایجان| Azerbaijan
ترکمنستان|Turkmenistan
تاجیکستان|Tajikistan
قزاقستان |Kazakhstan
قرقیزستان |Kyrgyzstan
ازبکستان |Uzbekistan
افغانستان |Afghanistan
پاکستان | Pakistan
بانک مرکزی
بانک ملّی ایران
بانک ملّت
بانک تجارت
بانک صادرات ایران
بانک ایران زمین
بانک پاسارگاد
بانک آینده
بانک پارسیان
بانک اقتصادنوین
بانک دی
بانک خاورمیانه
بانک سامان
بانک سینا
بانک سرمایه
بانک کارآفرین
بانک گردشگری
بانک رسالت
بانک توسعه تعاون
بانک توسعه صادرات ایران
قرض الحسنه مهر ایران
بانک صنعت و معدن
بانک سپه
بانک مسکن
رفاه کارگران
پست بانک
بانک مشترک ایران و ونزوئلا
صندوق توسعه ملّی
مؤسسه ملل
بیمه مرکزی
بیمه توسعه
بیمه تجارت نو
ازکی
بیمه ایران
بیمه آسیا
بیمه البرز
بیمه دانا
بیمه معلم
بیمه پارسیان
بیمه سینا
بیمه رازی
بیمه سامان
بیمه دی
بیمه ملت
بیمه نوین
بیمه پاسارگاد
بیمه کوثر
بیمه ما
بیمه آرمان
بیمه تعاون
بیمه سرمد
بیمه اتکایی ایرانیان
بیمه امید
بیمه ایران میهن
بیمه متقابل کیش
بیمه آسماری
بیمه حکمت صبا
بیمه زندگی خاورمیانه
کارگزاری مفید
کارگزاری آگاه
کارگزاری کاریزما
کارگزاری مبین سرمایه