پژوهشنامه پردازش و مدیریت اطلاعات

پژوهشنامه پردازش و مدیریت اطلاعات

بررسی و تدوین رهنمودهایی اخلاقی برای توسعه و استقرار سیستم‌های هوش مصنوعی

نوع مقاله : مقاله پژوهشی

نویسنده
استادیار پژوهشکده جامعه و اطلاعات، پژوهشگاه علوم و فناوری اطلاعات ایران (ایرانداک)
چکیده
اخلاق هوش مصنوعی حوزه مطالعاتی نسبتاً نوظهوری در گستره اخلاق کاربردی است که متأثر از تحولات ناشی از توسعه و استقرار سیستم­​​​​های هوش مصنوعی به بررسی پیامدها و مسایل اخلاقی و اجتماعی مرتبط با آن می‌پردازد. اگرچه برخی از این پیامدها و مسایل اخلاقی تا حدی قابل پیش​​​​​بینی بوده و امکان تحلیل‌ها و بررسی‌های اخلاقی را فراهم آورده است، اما به نظر می‌رسد با رشد و نفوذ روزافزون سیستم‌های هوش مصنوعی در تمامی ابعاد و شئون زندگی اجتماعی و فردی انسان‌ها، چالش‌های اخلاقی مبهم و پیچیده‌ای نیز در حال بروز است. این است که در حوزه مطالعاتی اخلاق هوش مصنوعی، مجموعه مسایلی که به‌​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​خوبی تثبیت‌ شده یا از جامعیت قابل قبولی برخوردار باشد، در واقع وجود ندارد. البته، تلاش‌های متعددی توسط سازمان‌های ملی و بین‌المللی در حوزه گردآوری و تدوین اصول و رهنمودهای اخلاق هوش مصنوعی در یک دهه اخیر انجام شده است. هر سند اخلاق هوش مصنوعی به​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​طور معمول، شامل دو بخش اصول اخلاقی و رهنمودهای اخلاقی است. در این سندها اصول اخلاقی، مبنای گردآوری و صورت‌بندی رهنمودهای اخلاقی است. هدف این مقاله معرفی اصول و تدوین رهنمودهای اخلاقی هوش مصنوعی با مطالعه هفت سند ملی و بین‌المللی است. بر این اساس، پنج اصل اخلاقی یکپارچه «فلوریدی و کولز» مبنای گردآوری و بررسی رهنمودهای اخلاقی هوش مصنوعی قرار گرفت. این رهنمودها در سه مرحله بررسی شد. در مرحله اول، رهنمودهای اخلاقی از اسناد مذکور استخراج و در چارچوب پنج اصل اخلاقی فهرست شدند. در مرحله دوم، رهنمودهای گردآوری​​​​​​​​​​​​​​​​​​​​​​​​​​‌شده، یکدست‌سازی و پالایش گردیدند. در مرحله سوم، برای ارزیابی روایی یافته‌ها و دستاورد پژوهش، رهنمودهای اخلاقی پالایش‌شده ذیل اصول اخلاقی پنج‌گانه، توسط گروهی کانونی از متخصصان، نقد و بررسی شد تا فرایند اعتباربخشی به رهنمودهای اخلاقی برگزیده با دستیابی به اِجماعی نسبی میان متخصصان انجام یابد.
کلیدواژه‌ها
موضوعات

عنوان مقاله English

A Review and Formulation of Ethical Guidelines for the Development and Deployment of Artificial Intelligence Systems

نویسنده English

Alireza Seghatoleslami
PhD in Philosophy of Science; Assistant Professor; Information and Society Research Department; Iranian Research Institute for Information Science and Technology (IranDoc)
چکیده English

The ethics of artificial intelligence is a relatively emerging field within the scope of applied ethics, which is influenced by the transformations driven by the development and deployment of AI systems and examines the ethical and social implications and issues associated with them. Although some of these consequences and ethical issues have been somewhat predictable and have enabled ethical analyses and investigations, it appears that as AI systems increasingly penetrate all dimensions and aspects of individual and social life, certain ambiguous and complex ethical challenges are also arising. Therefore, in the field of AI ethics studies, there does not actually exist a set of issues that are well-established or enjoy an acceptable level of comprehensiveness. Nonetheless, numerous efforts have been made by national and international organizations to collect and draft principles and ethical guidelines for AI in the past decade. Each AI ethics document generally consists of two parts: ethical principles and ethical guidelines. The ethical principles in these documents form the basis for formulating the ethical guidelines. The goal of this article is to introduce principles and develop ethical guidelines for AI ethics through the study of seven national and international documents. On this basis, the five integrative ethical principles of Floridi and Cowls were used as the foundation for compiling and examining AI ethical guidelines. These guidelines were reviewed in three stages. In the first stage, ethical guidelines were extracted from the aforementioned documents and listed within the framework of the five ethical principles. In the second stage, the collected guidelines were harmonized and refined. In the third stage, to evaluate the validity of the findings and the research outcome, the refined ethical guidelines were critiqued and reviewed by a focus group of experts under the five ethical principles to ensure the credibility of the selected ethical guidelines by achieving a relative consensus among the experts.

کلیدواژه‌ها English

AI Ethics
Ethical Principles
AI Ethics Document
Ethical Guidelines
Artificial Intelligence
فهرست منابع
بهاری، محمدرضا. 1398. جادوی هومَص (مجموعه‌ای درباره هوش مصنوعی). تهران: مؤسسه پژوهشی مطالعات فرهنگی و اجتماعی.
عبدخدایی، زهره، نسیم توحیدی، نرگس کریمی، و محمد براتی. 1400. هوش سفید: از اخلاق ماشینی تا ماشین اخلاقی. تهران: مؤسسه پژوهشی مطالعات فرهنگی و اجتماعی.
 
 
Refereces
 
Abdakhodaei, Z., N. Touhidi, N. Karimi, & M. Barati. 2021. White Intelligence: From Machine Ethics to Ethical Machines. Tehran: Institute for Cultural and Social Studies.
Bahari, Mohammadreza. 2019. The Magic of AI (A collection on artificial intelligence). Tehran: Institute for Cultural and Social Studies.
 
 
Bartneck, C., C. Lütge., A. Wagner., and S. Welsh. 2021. An Introduction to Ethics in Robotics and AI. In SpringerBriefs in Ethics. Cham: Springer Nature.
Boddington, P. 2017. Towards a Code of Ethics for Artificial Intelligence. 1st ed. Cham: Springer Publishing Company.
Boddington, P. 2022. AI Ethics: Textbook (Artificial Intelligence: Foundations, Theory, and Algorithms). Cham: Springer Publishing Company.
Coeckelbergh, M. 2020. AI Ethics. Cambridge, Massachusetts. USA: The MIT Press.
Ethically aligned design: A Vision for Prioritizing Human Wellbeing with Artificial Intelligence and Autonomous Systems. 2016. Retrieved from https://standards.ieee.org/wp-content/uploads/import/documents/other/ead_v2.pdf. (accessed  May 5, 2024)
European Group on Ethics in Science and New Technologies. 2018. Statement on artificial intelligence, robotics and autonomous systems. Brussels: European Commission.
 
Floridi, L. 2023. The Ethics of Artificial Intelligence- Principles, Challenges, and Opportunities. Oxford: Oxford University Press.
_____ & J. Cowls. 2019. A Unified Framework of Five Principles for AI in Society. Harvard Data Science Review , 1 (1). https://doi.org/10.1162/99608f92.8cd550d1
 
Future of Life Institute. 2017. Asilomar AI Principles. https://futureoflife.org/ai-principles/  (accessed  May 5, 2024)
Gordon, J. & C. B. Wrenn. 2020. Ethics of artificial intelligence. In The Internet Encyclopedia of Philosophy. https://iep.utm.edu/ethics-of-artificial-intelligence/. (accessed May 5, 2022).
High-Level Expert Group on Artificial Intelligence. 2019. Ethics guidelines for trustworthy AI. European Commission. https://ec.europa.eu/newsroom/dae/document.cfm?doc_id=60419 (accessed May 5, 2024)
House of Lords Select Committee on Artificial Intelligence. 2018. AI in the UK: Ready, willing and able? UK Parliament. https://publications.parliament.uk/pa/ld201719/ldselect/ldai/100/100.pdf  )accessed May 5, 2024) 
IEEE. 2017. Ethically aligned design: A vision for prioritizing human well-being with artificial intelligence and autonomous systems (1st ed.). https://ethicsinaction.ieee.org/ (accessed May 5, 2024)
Mazzi, F. & L. Floridi (eds.). 2023. The Ethics of Artificial Intelligence for the Sustainable Development Goals. Cham: Springer Verlag.
Müller, V. C. 2012. Autonomous Cognitive Systems in Real-World Environments: Less Control, More Flexibility and Better Interaction. Cognitive Computation 4 (3): 212–215.
Müller, V. C. 2020. Ethics of Artificial Intelligence and Robotics. In The Stanford Encyclopedia of Philosophy. https://plato.stanford.edu/archives/fall2023/entries/ethics-ai/. (accessed May 5, 2022).
Partnership on AI. 2016. Tenets. https://partnershiponai.org/tenets/ (accessed May 5, 2022)
Stahl, B., D. Schroeder, & R. Rodrigues. 2022. Ethics of Artificial Intelligence: Case Studies and Options for Addressing Ethical Challenges. cham: Springer Verlag.
Technology Assessment of Digitisation Research Team. 2018. Policy paper on the Asilomar principles on artificial intelligence. Berlin: Office of Technology Assessment at the German Bundestag (TAB).
 
UNESCO. 2021. Recommendation on the ethics of artificial intelligence. https://www.unesco.org/en/articles/recommendation-ethics-artificial-intelligence (accessed May 5, 2024 )
Université de Montréal. 2018. Montreal Declaration for Responsible AI. https://www.montrealdeclaration-responsibleai.com/ (accessed  May 5, 2024)

  • تاریخ دریافت 28 تیر 1404
  • تاریخ بازنگری 02 شهریور 1404
  • تاریخ پذیرش 03 شهریور 1404