راه کارهای پرورش رهبران فلسفه مدار هوش مصنوعی در سازمان ها

رهبری هوش مصنوعی فقط تصمیم گیری درباره داده ها و الگوریتم ها نیست، بلکه تصمیم گیری درباره انسان نیز است. وقتی فلسفه نادیده گرفته می شود، پرسش های بنیادینِ خیر و شر، اختیار و مسئولیت، معنا و پیامد، به حاشیه می روند و فناوری به جای خدمت، حاکم می شود. فلسفه به رهبران کمک می کند افق بلندتر را ببینند، ارزش ها را شفاف کنند، مرزهای قدرت را نقد کنند و به جای صرفاً «می توانیم»، بپرسند «باید؟». سازمان هایی که جنبه های فلسفی و ارزشی هوش مصنوعی را نادیده می گیرند، خود را در معرض چندین چالش و خطر جدی قرار می دهند که در ادامه این موارد را بررسی خواهیم کرد.

اکنون پرسش بااهمیت این است که چگونه می توان چنین رهبرانی را پرورش داد و این رویکرد را در سازمان نهادینه کرد؟ در این مقاله، به راهکارهای عملی و گام هایی می پردازیم که سازمان ها و مدیران می توانند برای تقویت تفکر فلسفی در رهبری هوش مصنوعی خود بردارند.

تعهد از بالا و تدوین چشم انداز ارزش محور

هر تحول فرهنگی در سازمان نیازمند حمایت صریح و الگوی رفتاری از سوی مدیریت ارشد است. اگر می خواهیم فلسفه مداری در AI جاری شود، مدیرعامل و هیئت مدیره باید به طور رسمی و علنی بر اهمیت آن تأکید کنند. این می تواند در قالب یک بیانیهٔ سازمانی یا چشم انداز بلندمدت باشد. برای مثال، مدیری ارشد می تواند اعلام کند: «سازمان ما مصمم است که هوش مصنوعی را در جهت تحقق مأموریت انسانی و اخلاقی خود به کار گیرد. ما به AI به چشم ابزاری برای تعالی تجربهٔ مشتریان، توانمندسازی کارکنان و ایجاد ارزش مشترک با جامعه می نگریم و متعهدیم که در این مسیر شفافیت، انصاف و مسئولیت پذیری را سرلوحه قرار دهیم.» چنین اظهارنظری اگر با اقدامات بعدی همراه شود، پیام قدرتمندی به کل بدنهٔ سازمان مخابره می کند. کارکنان درمی یابند که مدیریت، صرفاً خروجی های مالی یا فنی را ارزیابی نمی کند، بلکه نحوهٔ دستیابی به آنها نیز مهم است. این تعهد سطح بالا پایه گذار فرهنگ فلسفه مدار خواهد بود.

ایجاد کمیته ها و نقش های مشخص برای راهبری اخلاقی AI

ساختاردهی رسمی می تواند تضمین کند ملاحظات فلسفی همواره در پروژه ها حضور دارند. برخی از سازمان ها اقدام به تشکیل کمیتهٔ اخلاق هوش مصنوعی یا «شورای ارزش های فناوری» کرده اند. این کمیته متشکل از ذینفعان کلیدی – اعم از مدیران فنی، مدیران کسب وکار، نمایندگان واحدهای حقوقی و منابع انسانی، و حتی مشاوران بیرونی – است و وظیفه دارد بر پروژه های AI  نظارت ارزشی کند. چنین شورایی می تواند سیاست گذاری کند، بر انطباق پروژه ها با اصول مصوب نظارت نماید، موارد اختلافی را بررسی و رفع کند، و به عنوان مرجع تخصصی داخلی دربارهٔ سوالات اخلاقی تصمیم بگیرد. علاوه بر کمیته، برخی شرکت ها نقش های جدید تعریف کرده اند مانند «مسئول اخلاق داده و AI» یا «مهندس قابل اعتماد سازی الگوریتم». این افراد تخصص میان رشته ای دارند و پل ارتباطی بین تیم های فنی و ارزش های سازمانی هستند. حضورشان در تیم های پروژه کمک می کند از ابتدا مسیریابی درستی انجام شود و در طول اجرا نیز هشدارهای لازم داده شود. سرمایه گذاری روی چنین نقش هایی – هرچند ممکن است در کوتاه مدت هزینه به نظر برسد – در بلندمدت صرفه جویی های بزرگی از حیث جلوگیری از خطاها و بحران ها خواهد داشت.

توسعهٔ چارچوب ها و ابزارهای عملیاتی برای اخلاق در AI

صرف گفتن ارزش ها کافی نیست؛ سازمان باید آنها را به زبان ابزار و فرآیند ترجمه کند تا در کار روزمره جاری شوند. یکی از راهکارها تدوین چک لیست ها و راهنماهای عملی است. برای مثال، می توان یک چک لیست ارزیابی اخلاقی الگوریتم طراحی کرد که هر تیم فنی ملزم به تکمیل آن پیش از استقرار هر مدل AI باشد. این چک لیست می تواند شامل پرسش هایی نظیر: «آیا داده های آموزشی شما نمایندهٔ تمام گروه های کاربری هست؟»، «آیا امکان توضیح پذیری خروجی ها فراهم شده است؟»، «اگر کاربر از تصمیم الگوریتم شکایت داشت، رویهٔ بازنگری انسانی چیست؟»، «آیا این سیستم ممکن است حقوق فردی (مثل حریم خصوصی) را نقض کند و چگونه این ریسک کاهش یافته؟». پر کردن این چک لیست باعث می شود تیم ها به طور ساختاری دربارهٔ این ابعاد بیندیشند و پاسخ ها را مستند کنند. راهنمای عملی دیگر می تواند ابزارهای ارزیابی خودکار باشد؛ مثلاً اسکریپت هایی که توزیع خروجی های مدل را برای گروه های مختلف تست می کنند تا نابرابری احتمالی را کشف نمایند، یا ابزارهایی برای «ممیزی الگوریتمی» که مشابه حسابرسی مالی، عملکرد AI را حسابرسی ارزشی می کنند. رهبران باید اطمینان یابند چنین ابزارها و فرآیندهایی در سازمان موجود است و استفاده از آنها جزئی از تعریف موفقیت پروژه محسوب می شود. به بیان دیگر، ملاک های موفقیت در پروژه های AI باید فراتر از دقت و سودآوری و شامل معیارهای مسئولیت پذیری نیز باشد. وقتی تیمی بداند مدلش حتی اگر دقت بالا داشت اما در ممیزی عدالت رد شد، پروژه اش ناتمام تلقی می شود، خود را از ابتدا برای برآورده کردن این انتظارات آماده می کند.

نهادینه سازی آموزش مداوم در زمینهٔ اخلاق و فلسفهٔ تکنولوژی

پیش تر به اهمیت آموزش اشاره کردیم. یک برنامهٔ مدون آموزشی برای همهٔ سطوح سازمان (از مدیران گرفته تا کارشناسان و حتی کارمندان تازه وارد) دربارهٔ رویکرد مسئولانه به AI بسیار مفید است. این آموزش ها می تواند شامل دوره های آنلاین کوتاه، کارگاه های حضوری، یا مطالعهٔ گروهی مقالات و کتاب های مرتبط باشد. برای جذاب تر شدن، می توان از روش مطالعهٔ موردی (Case Study)  استفاده کرد. چند نمونهٔ واقعی شکست یا موفقیت را بیاورند و از شرکت کنندگان بخواهند علل اخلاقی آن را تحلیل کنند و درس ها را استخراج نمایند. یا حتی می توان سناریوهای فرضی طراحی کرد و از مدیران پرسید «اگر شما مدیر فلان شرکت باشید و AI شما مرتکب فلان اشتباه اخلاقی شود، چه می کنید؟ چگونه پیشگیری می کردید؟». این تمرین ها ذهن افراد را برای مواجههٔ واقعی آماده می کند. شرکت های بزرگ جهانی اغلب برای کارکنان شان دوره های سالانهٔ الزامی دربارهٔ کد اخلاقی شرکت دارند؛ می توان بخش قابل توجهی از آن را اکنون به «اخلاق داده و هوش مصنوعی» اختصاص داد. همچنین ایجاد یک مخزن دانش داخلی – مثلاً صفحه ای در اینترانت سازمان – که در آن منابع مفید (مقالات، گزارش ها، استانداردهای جهانی) دربارهٔ AI مسئولانه گردآوری شده باشد، کمک می کند علاقه مندان خودشان اطلاعاتشان را تکمیل کنند. هدف از این آموزش مداوم، ساختن یک حافظه و وجدان جمعی سازمانی است که به محض مواجهه با چالش های جدید AI، به تجربیات و دانش مناسب رجوع کند و تصمیم درست را اتخاذ نماید.

ترویج فرهنگ سؤال گری و مسئولیت پذیری فردی

فناوری هرقدر هم پیشرفته باشد، در نهایت انسان ها آن را می سازند و استفاده می کنند. لذا هر فردی در سازمان باید حس مسئولیت اخلاقی در قبال کاری که می کند داشته باشد. رهبران می توانند با اقدامات نمادین ولی مؤثر، این حس را تقویت کنند. مثلاً اضافه کردن بخشی به شرح شغل کارکنان فنی که تأکید کند «مسئولیت رعایت اصول AI اخلاقی و گزارش هرگونه نگرانی در این زمینه» نیز بر عهدهٔ آنهاست. یا قراردادن اهداف مرتبط با AI مسئولانه در ارزیابی عملکرد مدیران پروژه های AI. وقتی یک مدیر پروژه بداند که در پایان سال از او پرسیده می شود «چه اقداماتی برای تضمین منصفانه بودن و شفافیت سیستم تحت نظرت انجام دادی؟» قطعاً در طول کار به این موارد توجه خواهد کرد. برخی سازمان ها حتی سیستم های تشویقی طراحی کرده اند: برای مثال، جایزه ای داخلی به نام «قهرمان اخلاق داده» تعیین کرده اند که به فرد یا تیمی که بهترین رویه را در مواجهه با یک چالش اخلاقی AI نشان داده اعطا می شود. چنین ابتکاراتی انگیزه ایجاد می کند و به همه نشان می دهد سازمان واقعاً برای این موضوعات ارزش قائل است. همچنین باید کانال های امنی فراهم شود تا اگر کسی نگرانی یا ایرادی مشاهده کرد، بدون واهمه آن را بیان کند – خواه به مدیر مربوطه، خواه به یک خط مستقیم محرمانه به واحد ریسک/انطباق. این شبیه همان کاری است که سال هاست شرکت ها برای گزارش تخلفات مالی/رفتاری انجام می دهند (Whistleblowing). در زمینهٔ AI هم باید فضایی باشد که اگر مثلاً یک مهندس دید مدل در حال تبعیض است و تیم بی تفاوت است، بتواند موضوع را به گوش بالادستی ها برساند تا پیگیری لازم صورت گیرد. چنین ساختاری حس مالکیت اخلاقی را در افراد نهادینه می کند و به جای اتکا به یک واحد مرکزی، کل سازمان را به دیدبان ارزش ها تبدیل می کند.

همگام سازی با استانداردها و گفت وگوی صنعت

حوزهٔ AI مسئولانه به سرعت در حال رشد و شکل گیری استانداردهای بین المللی است. رهبران باید سازمان خود را در شبکهٔ این تحولات نگه دارند. مشارکت در ابتکارات صنعتی یا بین المللی نظیر «ائتلاف جهانی هوش مصنوعی اخلاقی»، «مرکز جهانی رهبری مسئولانهٔ فناوری» و مانند آن می تواند مفید باشد. این محافل، محلی برای تبادل تجربه و به اشتراک گذاری بهترین رویه هاست. همچنین آگاهی از جدیدترین قوانین (مثل مقررات اتحادیه اروپا) و آمادگی برای آنها از وظایف تیم های ریسک و انطباق است که زیر نظر رهبران انجام می شود. سازمان هایی که استانداردهای معتبر را زودتر کسب کنند (مثلاً گواهینامه های مربوط به حفظ حریم خصوصی داده یا انطباق الگوریتمی) در بازار وجه بهتری خواهند داشت. پس رهبران می توانند هدف گذاری کنند که کسب وکارشان از اولین پیروان استانداردهای نو باشد. این نه تنها ریسک قانونی را کم می کند، بلکه پیام مثبتی به مشتریان و جامعه می فرستد: «ما فراتر از اجبار قانونی، خود را وقف انجام درست کار کرده ایم». چنین اعتبار معنوی در درازمدت برگ برندهٔ سازمان خواهد بود.

ارزیابی و بازنگری مستمر استراتژی های AI با عینک فلسفی

محیط کسب وکار و فناوری دائم در حال تغییر است و یک سازمان باید مرتب خود را تطبیق دهد. رهبران باید هر از چندی (مثلاً سالانه) یک بازبینی کلان انجام دهند و ببینند آیا راهبرد AI سازمان همچنان با ارزش های ادعاشده همخوان است یا خیر. ممکن است اولویت های ارزشی جدیدی مطرح شده باشد یا جامعه نسبت به موضوعات تازه ای حساس شده باشد. برای نمونه، تا چندی پیش شاید کمتر شرکتی به «پایداری زیست محیطی AI» توجه داشت، اما اکنون با مطرح شدن مصرف انرژی بالای مدل های بزرگ، برخی سازمان ها معیار «مصرف بهینهٔ انرژی و ردپای کربن» را هم جزو مسئولیت های AI خود می دانند. یک رهبر فلسفه مدار همهٔ این جوانب را رصد می کند و در صورت لزوم استراتژی را اصلاح می نماید. شاید لازم شود در برخی پروژه ها تجدیدنظر شود یا سرمایه گذاری ها جابه جا گردد. نکتهٔ مهم این است که تفکر فلسفی یک فرآیند ایستا نیست، بلکه سفری پویاست که هم زمان با پیشرفت فناوری و جامعه، رشد می کند. رهبران باید در یادگیری و انطباق پیش قدم باشند تا سازمان شان همیشه روی لبهٔ اخلاقی و ارزشی حرکت کند.

این راهکارها شاید در نگاه اول بسیار گسترده به نظر برسند، اما می توان به تدریج و با توجه به اندازه و صنعت هر شرکت، آنها را پیاده کرد. مهم آن است که از یک جایی شروع کنیم. حتی اگر سازمانی کوچک باشد و منابع محدودی داشته باشد، رهبر آن می تواند مثلاً با یک بیانیهٔ ارزشی و چند جلسهٔ آموزشی، بنا را بگذارد. اگر سازمانی بزرگ است، می تواند کمیته های تخصصی و رویه های رسمی تر تعریف کند. در هر دو حالت، نیت و استمرار حرف اول را می زند. وقتی کارکنان ببینند این موضوع دغدغهٔ جدی مدیریت است و در عمل هم پیگیری می شود، آنها نیز همراه خواهند شد.

در پایان این بخش، اشاره به یک نکتهٔ الهام بخش خالی از لطف نیست. پرورش رهبری فلسفه مدار در حوزهٔ AI نه تنها برای سازمان مفید است، بلکه می تواند به کل جامعه نیز نفع برساند. سازمان هایی که این مسیر را می روند، عملاً تبدیل به الگوهایی صنعتی می شوند و می توانند استانداردهای طلایی رفتار مسئولانه را تعیین کنند. این به نوبهٔ خود سایرین را ترغیب می کند که همین روش را دنبال کنند و سطح کلی اعتماد و کیفیت در کاربردهای هوش مصنوعی ارتقاء می یابد. در واقع، هر مدیر کسب وکار با اتخاذ این رویکرد علاوه بر بهبود سازمان خود، در حال انجام مسئولیت اجتماعی نیز هست – چون به خلق آینده ای کمک می کند که در آن فناوری و انسانیت در تعادل بهتری باشند.

منابع:

Andreessen, M. (۲۰۱۱, August ۲۰). Why Software Is Eating the World. The Wall Street Journal.

Schrage, M., & Kiron, D. (۲۰۲۵, January ۱۶). Philosophy Eats AI. MIT Sloan Management Review.

Monteiro, B. (۲۰۲۵, June). Philosophy Must Be at the Top of Organizations. Medium.

Majic Predin, J. (۲۰۲۵, May ۲۲). Software Ate The World, AI Ate Software And Now Philosophy Is Eating AI. Forbes.

Steyn, J. (۲۰۲۵, June ۲۴). Philosophical foundations every AI leader must understand. ITWeb.

Wade, M., & Yokoi, T. (۲۰۲۴, May ۱۰). How to Implement AI — Responsibly. Harvard Business Review.

Common Sense Systems, Inc. (۲۰۲۵, May ۱۸). Why Every Business Must Make AI Ethics a Top Priority Today [Blog post].

Broom, D. (۲۰۲۳, July ۲۷). AI: These are the biggest risks to businesses and how to manage them. World Economic Forum.

The Physics arXiv Blog. (۲۰۲۴, October ۳۱). AI Systems Reflect the Ideology of Their Creators, Say Scientists. Discover Magazine.

Burgis, L. (۲۰۲۲, May ۹). The Philosophy of Peter Thiel’s “Zero to One”. Medium.

Westberg, P. (۲۰۲۴, May ۸). Alex Karp: The Unconventional Tech Visionary. Quartr.

Li, F.-F. (۲۰۲۳). The Worlds I See: Curiosity, Exploration, and Discovery at the Dawn of AI. Flatiron Books.

Wolfram, S. (۲۰۲۳, October ۲۷). How to Think Computationally About AI, the Universe, and Everything. Stephen Wolfram Writings.

Feri, I. (۲۰۲۵, April). Reimagining Intelligence: A Philosophical Framework for Next-Generation AI [Preprint].

Russo, F., Schliesser, E., & Wagemans, J. (۲۰۲۴). Connecting ethics and epistemology of AI. AI & Society, ۳۹(۴), ۱۵۸۵–۱۶۰۳٫

Hagendorff, T. (۲۰۲۰). The ethics of AI ethics: An evaluation of guidelines. Minds and Machines, ۳۰(۱), ۹۹–۱۲۰٫

Vartan, S. (۲۰۱۹, October ۲۴). Racial Bias Found in a Major Health Care Risk Algorithm. Scientific American.

Dastin, J. (۲۰۱۸, October ۱۰). Amazon scraps secret AI recruiting tool that showed bias against women. Reuters.

European Commission. (۲۰۲۴, July ۳۱). Artificial Intelligence Act enters into force on ۱ August ۲۰۲۴ [Press release].

Pichai, S. (۲۰۱۸, June ۷). AI at Google: Our Principles [Blog post]. Google.

McKinsey & Company. (۲۰۲۴). The state of AI in early ۲۰۲۴.

Stack Overflow. (۲۰۲۳). ۲۰۲۳ Developer Survey: Key Results.

Buyl, M., Tang, R., Kica, M., Vandezande, N., Berens, J., … & De Nardis, L. (۲۰۲۳). Large Language Models Reflect the Ideology of their Creators [arXiv preprint arXiv:۲۳۱۰.۱۲۸۶۸].

Harvard Business School Online. (۲۰۲۱). ۵ Ethical Considerations of AI in Business. HBS Online Blog.

UNESCO. (۲۰۲۱). Recommendation on the Ethics of Artificial Intelligence.

مقالات مرتبط:

رهبری فلسفه مدار: چیستی و چرایی

رهبری فلسفه مدار هوش مصنوعی؛ فردا هم دیر خواهد بود!

چرا رهبران تحول آفرین به فلسفه نیازمندند؟

فرهنگ هوش مصنوعی؛ چیستی و چگونگی

رهبری هوش مصنوعی؛ چیستی و چگونگی

حکمرانی هوش مصنوعی؛ چیستی و چرایی