هفته گذشته، کارشناسان برجسته از حوزه‌های دانشگاهی، صنعت و تنظیم مقررات گرد هم آمدند تا درباره پیامدهای حقوقی و تجاری توضیح‌پذیری هوش مصنوعی بحث کنند، با تمرکز ویژه بر تأثیر آن در حوزه خرده‌فروشی. این نشست که توسط پروفسور شلومیت یانیسکی راوید از دانشکده حقوق ییل و فوردهام برگزار شد، رهبران فکری را گرد هم آورد تا به نیاز رو به رشد شفافیت در تصمیم‌گیری‌های مبتنی بر هوش مصنوعی بپردازند و بر اهمیت اطمینان از عملکرد هوش مصنوعی در چارچوب‌های اخلاقی و قانونی و ضرورت «باز کردن جعبه سیاه» تصمیم‌گیری‌های هوش مصنوعی تأکید کنند.

چالش‌های نظارتی و استاندارد جدید هوش مصنوعی ISO 42001

تونی پورتر، کمیسر پیشین دوربین‌های نظارتی دفتر وزارت کشور بریتانیا، بینش‌هایی درباره چالش‌های نظارتی پیرامون شفافیت هوش مصنوعی ارائه داد. او به اهمیت ISO 42001، استاندارد بین‌المللی برای سیستم‌های مدیریت هوش مصنوعی، اشاره کرد که چارچوبی برای مدیریت مسئولانه هوش مصنوعی فراهم می‌کند. پورتر گفت: «مقررات به‌سرعت در حال تکامل هستند، اما استانداردهایی مانند ISO 42001 به سازمان‌ها رویکردی ساختاریافته برای ایجاد تعادل بین نوآوری و پاسخگویی ارائه می‌دهند.» نشست بحث و تبادل نظر که توسط پروفسور یانیسکی راوید هدایت شد، شامل نمایندگان شرکت‌های پیشرو در حوزه هوش مصنوعی بود که چگونگی پیاده‌سازی شفافیت در سیستم‌های هوش مصنوعی، به‌ویژه در کاربردهای خرده‌فروشی و حقوقی، را به اشتراک گذاشتند.

Chamelio: تحول در تصمیم‌گیری حقوقی با هوش مصنوعی توضیح‌پذیر

الکس زیلبرمن از Chamelio، یک پلتفرم هوش حقوقی که به‌طور انحصاری برای تیم‌های حقوقی داخلی طراحی شده است، به نقش هوش مصنوعی در عملیات حقوقی شرکت‌ها پرداخت. Chamelio نحوه عملکرد تیم‌های حقوقی داخلی را از طریق یک عامل هوش مصنوعی تغییر می‌دهد که دانش حقوقی ذخیره‌شده در مخزن قراردادها، سیاست‌ها، اسناد انطباق، سوابق شرکتی، پرونده‌های نظارتی و سایر اسناد حقوقی مهم برای کسب‌وکار را یاد می‌گیرد و به کار می‌برد.

عامل هوش مصنوعی Chamelio وظایف اصلی حقوقی مانند استخراج تعهدات مهم، ساده‌سازی بازبینی قراردادها، نظارت بر انطباق و ارائه بینش‌های عملی را انجام می‌دهد که در غیر این صورت در هزاران صفحه اسناد مدفون باقی می‌ماندند. این پلتفرم با ابزارهای موجود یکپارچه می‌شود و خود را با دانش حقوقی تیم سازگار می‌کند.

زیلبرمن گفت: «اعتماد مهم‌ترین نیاز برای ساخت سیستمی است که حرفه‌ای‌ها بتوانند از آن استفاده کنند. این اعتماد با ارائه حداکثر شفافیت ممکن به دست می‌آید. راه‌حل ما به کاربران اجازه می‌دهد بفهمند هر توصیه از کجا آمده است و اطمینان حاصل کنند که می‌توانند هر بینش را تأیید و بررسی کنند.»

Chamelio از مدل «جعبه سیاه» اجتناب می‌کند و به متخصصان حقوقی امکان می‌دهد دلایل پشت توصیه‌های تولیدشده توسط هوش مصنوعی را ردیابی کنند. برای مثال، هنگامی که سیستم با بخش‌هایی از قرارداد مواجه می‌شود که نمی‌شناسد، به جای حدس زدن، عدم قطعیت را علامت‌گذاری کرده و ورودی انسانی را درخواست می‌کند. این رویکرد به متخصصان حقوقی کمک می‌کند تا در تصمیم‌گیری‌های مهم، به‌ویژه در سناریوهای بی‌سابقه مانند بندهایی بدون پیشینه یا شرایط حقوقی متضاد، کنترل داشته باشند.

Buffers.ai: تغییر بهینه‌سازی موجودی

پینی اوشا از Buffers.ai بینش‌هایی درباره بهینه‌سازی موجودی مبتنی بر هوش مصنوعی، یک کاربرد مهم در خرده‌فروشی، ارائه داد. Buffers.ai به برندهای متوسط تا بزرگ خرده‌فروشی و تولیدی، از جمله H&M، P&G و توشیبا، خدمت‌رسانی می‌کند و به خرده‌فروشان – به‌ویژه در صنعت مد – کمک می‌کند تا چالش‌های بهینه‌سازی موجودی مانند پیش‌بینی، تکمیل موجودی و برنامه‌ریزی تنوع محصولات را مدیریت کنند. این شرکت اطمینان می‌دهد که مقادیر مناسب محصولات به مکان‌های صحیح تحویل داده شوند و موارد کمبود یا مازاد موجودی را کاهش می‌دهد.

Buffers.ai یک افزونه ERP مبتنی بر SaaS کامل ارائه می‌دهد که با سیستم‌هایی مانند SAP و Priority یکپارچه می‌شود و بازگشت سرمایه را در چند ماه فراهم می‌کند. اوشا گفت: «شفافیت کلید است. اگر کسب‌وکارها نتوانند بفهمند هوش مصنوعی چگونه نوسانات تقاضا یا ریسک‌های زنجیره تأمین را پیش‌بینی می‌کند، در اعتماد به آن تردید خواهند داشت.»

Buffers.ai ابزارهای توضیح‌پذیری را یکپارچه کرده است که به مشتریان اجازه می‌دهد پیش‌بینی‌های مبتنی بر هوش مصنوعی را تجسم کرده و تنظیم کنند، و از هماهنگی با عملیات کسب‌وکار در زمان واقعی و روندهای بازار اطمینان حاصل می‌کند. برای مثال، هنگام عرضه محصول جدیدی بدون داده‌های تاریخی، سیستم روندهای محصولات مشابه، ویژگی‌های فروشگاه و سیگنال‌های تقاضای محلی را تحلیل می‌کند. اگر یک شعبه سابقه تقاضای قوی برای اقلام مشابه را داشته باشد، سیستم ممکن است بدون وجود داده‌های قبلی برای محصول جدید، مقدار بیشتری را پیشنهاد کند. به همین ترتیب، هنگام تخصیص موجودی بین شعب و فروشگاه‌های آنلاین، سیستم عواملی مانند عملکرد فروش منطقه‌ای، الگوهای تردد مشتریان و نرخ تبدیل آنلاین را شرح می‌دهد تا توصیه‌های خود را توضیح دهد.

Corsight AI: تشخیص چهره در خرده‌فروشی و اجرای قانون

متان نوگا از Corsight AI درباره نقش توضیح‌پذیری در فناوری تشخیص چهره صحبت کرد که به طور فزاینده‌ای برای امنیت و بهبود تجربه مشتری در خرده‌فروشی استفاده می‌شود. Corsight AI در تشخیص چهره در دنیای واقعی تخصص دارد و راه‌حل‌های خود را به اجرای قانون، فرودگاه‌ها، مراکز خرید و خرده‌فروشان ارائه می‌دهد.

فناوری این شرکت برای کاربردهایی مانند هشدار فهرست نظارت، یافتن افراد گمشده و تحقیقات جنایی استفاده می‌شود. Corsight AI خود را با تمرکز بر تشخیص سریع و بلادرنگ، به روش‌هایی که با قوانین حریم خصوصی در حال تحول و دستورالعمل‌های اخلاقی هوش مصنوعی سازگار است، متمایز می‌کند. این شرکت با دولت و مشتریان تجاری خود همکاری می‌کند تا پذیرش مسئولانه هوش مصنوعی را ترویج دهد و بر اهمیت توضیح‌پذیری در ایجاد اعتماد و اطمینان از استفاده اخلاقی تأکید دارد.

ImiSight: هوش تصویری مبتنی بر هوش مصنوعی

دافنه تاپیا از ImiSight بر اهمیت توضیح‌پذیری در هوش تصویری مبتنی بر هوش مصنوعی تأکید کرد، به‌ویژه در کاربردهای حساس مانند امنیت مرزی و نظارت بر محیط زیست. ImiSight در یکپارچه‌سازی و تحلیل چندحسگری تخصص دارد و از الگوریتم‌های هوش مصنوعی/یادگیری ماشین برای تشخیص تغییرات، ناهنجاری‌ها و اشیاء در بخش‌هایی مانند تجاوز به زمین، نظارت بر محیط زیست و نگهداری زیرساخت‌ها استفاده می‌کند. تاپیا گفت: «توضیح‌پذیری هوش مصنوعی یعنی درک اینکه چرا یک شیء یا تغییر خاص شناسایی شده است. ما ردیابی و شفافیت را در اولویت قرار می‌دهیم تا کاربران بتوانند به خروجی‌های سیستم ما اعتماد کنند.» ImiSight مدل‌های خود را به طور مداوم بر اساس داده‌های واقعی و بازخورد کاربران بهبود می‌بخشد. این شرکت با نهادهای نظارتی همکاری می‌کند تا اطمینان حاصل کند که هوش مصنوعی‌اش با استانداردهای بین‌المللی انطباق دارد.

این نشست بر نقش حیاتی توضیح‌پذیری هوش مصنوعی در تقویت اعتماد، پاسخگویی و استفاده اخلاقی از فناوری‌های هوش مصنوعی، به‌ویژه در خرده‌فروشی و سایر صنایع حساس، تأکید کرد. با اولویت‌بندی شفافیت و نظارت انسانی، سازمان‌ها می‌توانند اطمینان حاصل کنند که سیستم‌های هوش مصنوعی هم مؤثر و هم قابل اعتماد هستند و با استانداردهای نظارتی در حال تحول و انتظارات عمومی هم‌راستا می‌مانند.

منبع: اخبار هوش مصنوعی