حکمرانی هوش مصنوعی؛ چیستی و چرایی

امروزه ابتکارات هوش مصنوعی تقریباً در تمام صنایع به سرعت در حال افزایش است؛ اما طبق گفته مکنزی، فقط ۱۸ درصد از رهبران کسب وکار مورد بررسی می گویند که سازمان هایشان در مسیر توسعه حکمرانی هوش مصنوعی قدم برداشته اند. در حالی که بدون وجود حکمرانی هوش مصنوعی شرکت ها با مشکلاتی تحت عناوین ناهماهنگی داده ها، شکست در انطباق و اشتباهات تصمیم گیری مواجه می شوند که مانع از اثربخشی هوش مصنوعی هستند. این امر نه تنها هزینه های عملیاتی را افزایش می دهد، بلکه منجر به از دست رفتن فرصت هایی می شود که در بازارهای پرشتاب دیجیتال حیاتی به نظر می رسند؛ لذا اهمیت حکمرانی هوش مصنوعی را نمی توان انکار کرد، زیرا سازمان را در برابر سوء استفاده احتمالی از هوش مصنوعی محافظت، از منافع ذینفعان حمایت و اعتماد کاربران به راه حل های مبتنی بر هوش مصنوعی را تقویت می کند. در واقع هدف این رویکرد چند وجهی، مهار پتانسیل عظیم هوش مصنوعی در عین کاهش خطرات مرتبط و حفظ همسویی با استانداردهای اخلاقی و الزامات قانونی است. به این ترتیب می توان اظهار داشت که حکمرانی هوش مصنوعی هسته پیاده سازی هوش مصنوعی مسئولانه و اخلاقی در سازمان می باشد. اصول، شیوه ها و پروتکل ها را در بر می گیرد و توسعه، استقرار و استفاده از سیستم های هوش مصنوعی را هدایت می کند.

حکمرانی هوش مصنوعی چیست؟

از آنجا که هوش مصنوعی در سال های آینده تحول عظیمی را در توسعه ابعاد مختلف سازمان ها ایجاد خواهد کرد، ضرورت پرداختن به حکمرانی هوش مصنوعی نیز دوچندان می شود. به همین دلیل شرکت های معتبر در حوزه هوش مصنوعی، در پی درک این مفهوم، تعریف حکمرانی هوش مصنوعی را اینگونه ارائه کرده اند:

آی بی ام[۱]: حکمرانی هوش مصنوعی به فرایندها، استانداردها و حفاظهایی اشاره دارد که به اطمینان از ایمنی و اخلاقی بودن سیستم ها و ابزارهای هوش مصنوعی کمک می کند. حکمرانی مؤثر هوش مصنوعی شامل مکانیزم های نظارتی است که خطراتی مانند سوگیری، نقض حریم خصوصی و سوء استفاده را در حین تقویت نوآوری و اعتماد برطرف می کند. یک رویکرد اخلاقی مبتنی بر هوش مصنوعی برای حکمرانی آن مستلزم مشارکت طیف گسترده ای از ذینفعان، از جمله توسعه دهندگان، کاربران و سیاست گذاران هوش مصنوعی است تا اطمینان حاصل شود که سیستم های مرتبط با هوش مصنوعی برای همسویی با ارزش های جامعه توسعه یافته و استفاده می شوند.

تک تارگت[۲]: حکمرانی هوش مصنوعی چارچوب قانونی برای اطمینان از تحقیق و توسعه فناوری هوش مصنوعی و یادگیری ماشین با هدف کمک به سازمان ها در پذیرش و استفاده از این فناوری ها به روش های اخلاقی و مسئولانه است. هدف حکمرانی هوش مصنوعی کاهش شکافی است که بین مسئولیت پذیری و اخلاقیات در زمینه پیشرفت فناوری وجود دارد. تمرکز اصلی حکمرانی هوش مصنوعی بر نحوه ارتباط این فناوری با انصاف، کیفیت داده و استقلال است.

دیتاکمپ[۳]: حکمرانی هوش مصنوعی به اقدامات و روش های سیستماتیک طراحی شده برای هدایت و نظارت بر توسعه برنامه های کاربردی هوش مصنوعی اشاره دارد و شامل قوانین، مقررات یا هر دستورالعملی است که سازندگان و کاربران هوش مصنوعی را هدایت و تضمین می کند که هوش مصنوعی با اصول اخلاقی و ارزش های جامعه همسو است.

اکسلریت[۴]: هوش مصنوعی علاوه بر توانایی خود در تحول صنایع و خودکارسازی فرایندها، دارای پیامدهای سازمانی، اخلاقی و قانونی قابل توجهی است. مجموعه دستورالعمل هایی که توسعه و استقرار مسئولانه هوش مصنوعی را تضمین می کند به عنوان حکمرانی هوش مصنوعی شناخته می شود.

پالوآلتو[۵]: حکمرانی هوش مصنوعی شامل سیاست ها، رویه ها و ملاحظات اخلاقی مورد نیاز برای نظارت بر توسعه، استقرار و نگهداری سیستم های هوش مصنوعی است. حکمرانی نرده های محافظی ایجاد و تضمین می کند که هوش مصنوعی علاوه بر همسویی با ارزش های سازمانی و هنجارهای اجتماعی در محدوده های قانونی و اخلاقی پیش می رود. چارچوب حکمرانی هوش مصنوعی یک رویکرد ساختاریافته برای پرداختن به شفافیت، پاسخگویی و انصاف ارائه می دهد و همچنین استانداردهایی برای مدیریت داده ها، توضیح پذیری مدل و فرایندهای تصمیم گیری تعیین می کند. از طریق حکمرانی هوش مصنوعی، نوآوری هوش مصنوعی تسهیل و در عین حال خطرات مربوط به تعصب، نقض حریم خصوصی و تهدیدات امنیتی کاهش می یابند.

چرا حکمرانی هوش مصنوعی مهم است؟

اگرچه تعریف حکمرانی هوش مصنوعی پیش تر مورد توجه قرار گرفت، اما سؤال اصلی این است که چرا حکمرانی هوش مصنوعی بخش مهمی از یک سازمان است؟

بدون حکمرانی مناسب، سیستم های هوش مصنوعی می توانند خطراتی مانند تصمیم گیری مغرضانه، نقض حریم خصوصی و سوء استفاده از داده ها را به همراه داشته باشند.

از تقویت فرایندهای خلاقانه در طراحی تا خودکارسازی وظایف در توسعه نرم افزار، هوش مصنوعی در حال تغییر نحوه عملکرد صنایع است. از طرفی پذیرش سریع ابزارها و سیستم های هوش مصنوعی در صنایع مختلف، نگرانی هایی را در مورد اخلاق هوش مصنوعی، شفافیت و انطباق با سایر مقررات، مانند مقررات حفاظت از داده های عمومی [۶]، ایجاد کرده است. علاوه بر این با توجه به تعداد زیادی از افراد درگیر در توسعه راه حل های مبتنی بر هوش مصنوعی و دسترسی گسترده کاربران، اطمینان از انصاف و مسئولیت پذیری که می تواند به طور قابل توجهی بر زندگی افراد تأثیر بگذارد، لازم به نظر می رسد. از آنجایی که سیستم های هوش مصنوعی به طور فزاینده ای پیچیده و در بخش های مختلف فراگیر می شوند، سازمان ها برای اجرای ساختارهای حکمرانی قوی با فشار فزاینده ای مواجه می شوند. این فشار از تلاقی عواملی از جمله: نیاز به حفظ اعتماد عمومی، محافظت در برابر سوء استفاده احتمالی یا سوء استفاده از هوش مصنوعی و اطمینان از انطباق با چشم انداز در حال تحول ناشی می شود؛ لذا حکمرانی هوش مصنوعی مهم است؛ زیرا چارچوبی را برای تضمین استفاده اخلاقی و مسئولانه از هوش مصنوعی ایجاد و هوش مصنوعی را به سمت آینده ای هدایت می کند که در آن مزایای فناوری به حداکثر و خطرات آن به حداقل برسد. موارد زیر برخی از نکاتی است که می توان برای جمع بندی اهمیت حکمرانی هوش مصنوعی در نظر گرفت:

تضمین ایمنی

حکمرانی هوش مصنوعی به مدیریت خطرات ناشی از فناوری هوش مصنوعی، از جمله نقض احتمالی حریم خصوصی و سوگیری های تصمیم گیری کمک می کند. حکمرانی هوش مصنوعی توسعه دهندگان قدرتمند سیستم های هوش مصنوعی را موظف می کند تا نتایج تست ایمنی و اطلاعات مهم را با کاربران به اشتراک بگذارند تا اطمینان حاصل شود که سیستم های هوش مصنوعی ایمن و قابل اعتماد هستند.

ایجاد اعتماد

حکمرانی هوش مصنوعی در سازمان ها، اعتماد ذینفعان و کارکنان را پرورش می دهد. این اعتماد بسیار مهم است زیرا سازمان ها برای انجام وظایف حیاتی بیش از پیش به اعتماد کارکنان وابسته هستند. حکمرانی هوش مصنوعی علاوه بر تسهیل استفاده سازنده از فناوری هوش مصنوعی به دنبال محافظت از حقوق کاربر و جلوگیری از آسیب نیز هست.

ارتقای مسئولیت پذیری

برای تضمین اینکه ابزارهای هوش مصنوعی در طول چرخه عمرشان به طور اخلاقی و معقول به کار می روند، مسئولیت پذیری بسیار مهم است. حال آنکه وظایف و مسئولیت های روشن برای استفاده از هوش مصنوعی در داخل یک کسب و کار با یک چارچوب ساختاریافته برای حکمرانی هوش مصنوعی امکان پذیر خواهد بود.

نوآوری

حکمرانی مؤثر هوش مصنوعی به عنوان سنگ بنای نوآوری پایدار و مزیت رقابتی عمل می کند. با ایجاد دستورالعمل های روشن و مرزهای اخلاقی، سازمان ها می توانند محیطی را ایجاد کنند که توسعه هوش مصنوعی مسئولانه را تشویق و در عین حال خطرات قانونی، اعتباری و عملیاتی بالقوه را کاهش می دهد. از طریق اجرای یک چارچوب قوی حکمرانی هوش مصنوعی، شرکت ها می توانند به طور مؤثر ریسک ها را مدیریت کرده و نوآوری را تقویت کنند. این تعادل به کسب وکارها امکان می دهد از هوش مصنوعی بهره ببرند و در عین حال معایب آن را محدود کنند.

افزایش نتایج مالی

استدلال در اهمیت حکمرانی هوش مصنوعی فقط تئوری نیست، بلکه با نتایج مالی قابل اندازه گیری نیز پشتیبانی می شود. تحقیقات گارتنر نشان می دهد، شرکت هایی با حکمرانی هوش مصنوعی ۲۱ تا ۴۹ درصد بهبود عملکرد مالی را تجربه می کنند و اگر بتوانند بلوغ فرهنگ داده های خود را هم بهبود بخشند، می توانند آن را به ۵۴ درصد برسانند. داده های قابل اعتماد که با حکمرانی قوی فراهم می شوند، تصمیم گیری سریع تر را هدایت می کنند، خطرات را کاهش و کارآمدی هوش مصنوعی را افزایش می دهند.

حفظ چارچوب های اخلاقی

روندهای کنونی در حکمرانی هوش مصنوعی فراتر از انطباق قانونی صرف است و به سمت تضمین مسئولیت اجتماعی حرکت می کند. در نتیجه، پیاده سازی آن سازمان را از آسیب های مالی، قانونی و اعتباری محافظت کرده و در عین حال رشد مسئولانه فناوری را ارتقا می دهد.

بهبود تصمیم گیری

 زمانی که از الگوریتم های یادگیری ماشین برای تصمیم گیری استفاده می شود، حکمرانی هوش مصنوعی ضروری به نظر می رسد؛ زیرا تعیین می کند که چگونه با تصمیم های ناعادلانه مبتنی بر هوش مصنوعی که حقوق بشر را نقض می کند، به بهترین شکل برخورد کرد. حکمرانی هوش مصنوعی به شفافیت می پردازد و تضمین می کند که سیستم های هوش مصنوعی و فرآیندهای تصمیم گیری مبتنی بر آن برای ذینفعان قابل درک است.

محورهای اصلی حکمرانی هوش مصنوعی چیست؟

حکمرانی هوش مصنوعی بر استراتژی هایی متمرکز است که از استقرار و توسعه ایمن و مؤثر فناوری هوش مصنوعی اطمینان حاصل می کنند. مجموعه ای از اصول و محورهای آن می تواند شامل موارد زیر باشد:

شفافیت

باید اطمینان حاصل شود که تمام سیستم های هوش مصنوعی مستند و شفاف هستند تا کاربران و ذینفعان بدانند که چگونه تصمیم گیری ها انجام می شوند. ارائه نتایج واضح و مستند هم بسیار مهم است، به ویژه برای صنایع پیچیده؛ مانند بانکداری که در آن ملاحظات فراوانی از عناصر ریسک مالی باید اعمال شود.

تنظیم الگوریتم

نظارت و ارزیابی دقیق الگوریتم های یادگیری ماشین جز حیاتی در حکمرانی هوش مصنوعی هستند تا از تصمیم گیری های ناقص یا مضر جلوگیری کنند و در عین حال مجموعه داده ها به خوبی آموزش داده و نگهداری شوند. علاوه بر این نحوه عملکرد و تصمیم گیری الگوریتم های هوش مصنوعی باید شفاف بوده و سازمان ها آماده توضیح منطق و استدلال در پس نتایج مبتنی بر الگوریتم های هوش مصنوعی باشند.

انصاف

توجه به رکن مهم انصاف در حکمرانی هوش مصنوعی کمک می کند که سیستم های هوش مصنوعی تعصبات را منتشر نکنند. از این رو سازمان ها باید تلاش کنند تا مدل هایی توسعه دهندکه با همه افراد و گروه ها به طور عادلانه رفتار کنند. تکنیک هایی مانند: تحلیل داده های اکتشافی، پیش پردازش داده ها و معیارهای عادلانه می توانند به شناسایی و کاهش سوگیری ها در سیستم های هوش مصنوعی کمک کنند.

مسئولیت پذیری

مسئولیت پذیری مستلزم آن است که سازمان ها مسئولیت نتایج سیستم های هوش مصنوعی خود را بر عهده بگیرند؛ لذا آن ها باید مکانیسم های نظارتی اجرا کنند که بتوانند مسیرهای حسابرسی را برای ردیابی اقدامات و تصمیمات دنبال کنند.

حریم خصوصی

جمع آوری، ذخیره سازی و استفاده از داده های شخصی توسط سیستم های هوش مصنوعی می تواند حریم خصوصی افراد را نقض کند و به طور بالقوه منجر به سوء استفاده یا دسترسی غیرمجاز به اطلاعات حساس شود. مقررات حفاظت از داده ها در حکمرانی هوش مصنوعی سازمان ها را ملزم می سازد که داده های حساس را مسئولانه مدیریت کنند.

مدیریت کیفیت داده

داده های با کیفیت هسته اصلی هر ابتکار موفق هوش مصنوعی هستند. وقتی داده ها به خطر می افتند، چه از طریق خطاها، ناسازگاری ها، ناهنجاری ها یا مقادیر از دست رفته، مدل های هوش مصنوعی در ارائه پیش بینی های دقیق شکست می خورند و منجر به نتایج ضعیف کسب و کار می شوند. به این ترتیب نه تنها زمان و منابع تلف می شوند، بلکه مهم تر از همه، اعتماد به اثربخشی هوش مصنوعی در سازمان هم از بین می رود؛ لذا برای اطمینان از عملکرد بهینه مدل های هوش مصنوعی، سازمان ها باید شیوه های درست مدیریت کیفیت داده ها را در ارکان حکمرانی هوش مصنوعی لحاظ کنند.

استفاده مسئولانه از هوش مصنوعی

مدل های هوش مصنوعی، زمانی که به درستی مدیریت نمی شوند، می توانند خطرات اخلاقی قابل توجهی را ایجاد کنند. سوگیری های حاصل از داده ها می توانند منجر به تصمیماتی شوند که ناعادلانه یا تبعیض آمیز هستند، به اعتبار سازمان آسیب می رسانند و منجر به مشکلات قانونی می شوند؛ بنابراین سازمان ها باید اقدامات پیشگیرانه ای را برای مدیریت ابعاد اخلاقی این سیستم ها انجام دهند. دستورالعمل های اخلاقی را اتخاذ کنند که سیستم های هوش مصنوعی مسئولانه را ترویج و اطمینان حاصل کنند که مقررات در کسب وکار رعایت می شوند.

ایمنی

عدم ایمن سازی صحیح داده ها می تواند منجر به عواقب شدیدی از جمله جریمه های قابل توجه و آسیب های طولانی مدت به اعتبار سازمان ها شود. از این رو توجه به ایمنی در توسعه حکمرانی هوش مصنوعی ضروری است و سازمان ها در پیاده سازی سیستم های هوش مصنوعی باید ایمنی کاربران را در اولویت قرار دهند و از آسیب آن ها جلوگیری کنند.

منابع:

https://www.ibm.com/think/topics/ai-governance

https://www.techtarget.com/searchenterpriseai/definition/AI-governance

https://www.blueprism.com/guides/ai/ai-governance/

https://www.paloaltonetworks.com/cyberpedia/ai-governance

https://www.amu.apus.edu/area-of-study/information-technology/resources/what-is-ai-governance/

https://www.accelirate.com/ai-governance/

https://www.alation.com/blog/ai-governance-best-practices-framework-data-leaders/

https://www.schellman.com/blog/cybersecurity/nist-ai-risk-management-framework-explained

https://www.datacamp.com/blog/ai-governance

https://olartemoure.com/en/artificial-intelligence-governance/

[۱] IBM

[۲] TechTarget

[۳] DataCamp

[۴] Accelirate

[۵] Palo Alto

[۶] GDPR: General Data Protection Regulation

مقالات مرتبط:

حکمرانی دیجیتال چیست؟

مکانیزم های کلیدی حکمرانی دیجیتال

حکمرانی دیجیتال در یک نگاه

فرهنگ هوش مصنوعی؛ چیستی و چگونگی

رهبری هوش مصنوعی؛ چیستی و چگونگی

طراحی استراتژی هوش مصنوعی برای سازمان ها

تحول دیجیتال مبتنی بر هوش مصنوعی

تاثیر هوش مصنوعی و رباتیک بر مدیریت و رهبری