پژوهشگاه علوم و فناوری اطلاعات ایران (ایرانداک) پژوهشنامه پردازش و مدیریت اطلاعات 2251-8223 41 2 2025 12 22 A Review and Formulation of Ethical Guidelines for the Development and Deployment of Artificial Intelligence Systems بررسی و تدوین رهنمودهایی اخلاقی برای توسعه و استقرار سیستم‌های هوش مصنوعی 419 440 732291 10.22034/jipm.2025.2066388.2053 FA علیرضا ثقه الاسلامی استادیار پژوهشکده جامعه و اطلاعات، پژوهشگاه علوم و فناوری اطلاعات ایران (ایرانداک) 0000-0002-2781-6267 Journal Article 2025 07 19 <span>The ethics of artificial intelligence is a relatively emerging field within the scope of applied ethics, which is influenced by the transformations driven by the development and deployment of AI systems and examines the ethical and social implications and issues associated with them. Although some of these consequences and ethical issues have been somewhat predictable and have enabled ethical analyses and investigations, it appears that as AI systems increasingly penetrate all dimensions and aspects of individual and social life, certain ambiguous and complex ethical challenges are also arising. Therefore, in the field of AI ethics studies, there does not actually exist a set of issues that are well-established or enjoy an acceptable level of comprehensiveness. Nonetheless, numerous efforts have been made by national and international organizations to collect and draft principles and ethical guidelines for AI in the past decade. Each AI ethics document generally consists of two parts: ethical principles and ethical guidelines. The ethical principles in these documents form the basis for formulating the ethical guidelines. The goal of this article is to introduce principles and develop ethical guidelines for AI ethics through the study of seven national and international documents. On this basis, the five integrative ethical principles of Floridi and Cowls were used as the foundation for compiling and examining AI ethical guidelines. These guidelines were reviewed in three stages. In the first stage, ethical guidelines were extracted from the aforementioned documents and listed within the framework of the five ethical principles. In the second stage, the collected guidelines were harmonized and refined. In the third stage, to evaluate the validity of the findings and the research outcome, the refined ethical guidelines were critiqued and reviewed by a focus group of experts under the five ethical principles to ensure the credibility of the selected ethical guidelines by achieving a relative consensus among the experts.</span> <span lang="FA">اخلاق هوش مصنوعی حوزه مطالعاتی نسبتاً نوظهوری در گستره اخلاق کاربردی است که متأثر از تحولات ناشی از توسعه و استقرار سیستم</span><span lang="FA">­​​​​</span><span lang="FA">های هوش مصنوعی به بررسی پیامدها و مسایل اخلاقی و اجتماعی مرتبط با آن می‌پردازد</span><span lang="FA">. </span><span lang="FA">اگرچه برخی از این پیامدها و مسایل اخلاقی تا حدی قابل پیش​​​​​بینی بوده و امکان تحلیل‌ها و بررسی‌های اخلاقی را فراهم آورده است، اما به نظر می‌رسد با رشد و نفوذ روزافزون سیستم‌های هوش مصنوعی در تمامی ابعاد و شئون زندگی اجتماعی و فردی انسان‌ها، چالش‌های اخلاقی مبهم و پیچیده‌ای نیز در حال بروز است</span><span lang="FA">. </span><span lang="FA">این است که در حوزه مطالعاتی اخلاق هوش مصنوعی، مجموعه مسایلی که به‌​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​خوبی تثبیت‌ شده یا از جامعیت قابل قبولی برخوردار باشد، در واقع وجود ندارد</span><span lang="FA">. </span><span lang="FA">البته، تلاش‌های متعددی توسط سازمان‌های ملی و بین‌المللی در حوزه گردآوری و تدوین اصول و رهنمودهای اخلاق هوش مصنوعی در یک دهه اخیر انجام شده است</span><span lang="FA">. </span><span lang="FA">هر سند اخلاق هوش مصنوعی به​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​طور معمول، شامل دو بخش اصول اخلاقی و رهنمودهای اخلاقی است</span><span lang="FA">. </span><span lang="FA">در این سندها اصول اخلاقی، مبنای گردآوری و صورت‌بندی رهنمودهای اخلاقی است</span><span lang="FA">. </span><span lang="FA">هدف این مقاله معرفی اصول و تدوین رهنمودهای اخلاقی هوش مصنوعی با مطالعه هفت سند ملی و بین‌المللی است</span><span lang="FA">. </span><span lang="FA">بر این اساس، پنج اصل اخلاقی یکپارچه «فلوریدی و کولز» مبنای گردآوری و بررسی رهنمودهای اخلاقی هوش مصنوعی قرار گرفت</span><span lang="FA">. </span><span lang="FA">این رهنمودها در سه مرحله بررسی شد</span><span lang="FA">. </span><span lang="FA">در مرحله اول، رهنمودهای اخلاقی از اسناد مذکور استخراج و در چارچوب پنج اصل اخلاقی فهرست شدند</span><span lang="FA">. </span><span lang="FA">در مرحله دوم، رهنمودهای گردآوری​​​​​​​​​​​​​​​​​​​​​​​​​​‌شده، یکدست‌سازی و پالایش گردیدند</span><span lang="FA">. </span><span lang="FA">در مرحله سوم، برای ارزیابی روایی یافته‌ها و دستاورد پژوهش، رهنمودهای اخلاقی پالایش‌شده ذیل اصول اخلاقی پنج‌گانه، توسط گروهی کانونی از متخصصان، نقد و بررسی شد تا فرایند اعتباربخشی به رهنمودهای اخلاقی برگزیده با دستیابی به اِجماعی نسبی میان متخصصان انجام یابد</span><span lang="FA">.</span> https://jipm.irandoc.ac.ir/article_732291_fe316903d5ad9c2f3af2399c8525c463.pdf