1- کارشناسی ارشد مدیریت بازرگانی گرایش مدیریت استراتژیک موسسه آموزش عالی روزبه زنجان؛ کارشناس حرفهای تامین مالی بازار و صندوقهای سرمایهگذاری.
چکیده
تحول شتابان هوش مصنوعی در سالهای اخیر، ماهیت عاملهای هوشمند را از سطح ابزارهای صرفاً اجرایی به سوی کنشگرانی با درجه بالایی از خودمختاری، توانایی تصمیمگیری و تعامل با محیط پیرامون سوق داده است. این دگردیسی بنیادین، پرسشهای نوینی را در باب جایگاه این عاملها در معماری اکوسیستم هوش مصنوعی و نسبت آنها با نظامهای حقوقی موجود مطرح میسازد. مقاله حاضر با هدف بررسی تحول نقش عاملهای هوش مصنوعی از ابزارهای منفعل به کنشگرانی با ظرفیت اثرگذاری حقوقی، به تحلیل ابعاد فنی، فلسفی و حقوقی این موضوع پرداخته است. در این راستا، ضمن تبیین مفاهیم بنیادین عامل هوشمند و معماری اکوسیستم هوش مصنوعی، چالشهای نظری و عملی ناظر بر شناسایی شخصیت حقوقی برای این عاملها، مسئولیت مدنی و کیفری ناشی از اقدامات آنها و نیز الزامات تنظیمگری هوشمند در قبال این پدیده نوظهور مورد واکاوی قرار گرفته است. یافتههای پژوهش نشان میدهد که عاملهای هوش مصنوعی به دلیل دارا بودن ویژگیهایی همچون خودمختاری، قابلیت یادگیری و تصمیمگیری مستقل، از چنان ظرفیتی برخوردارند که آنها را از قلمرو ابزارهای سنتی خارج و در آستانه ورود به عرصه کنشگران حقوقی قرار میدهد، هرچند که اعطای شخصیت حقوقی کامل به آنها با موانع جدی فلسفی و حقوقی روبهرو است. روش پژوهش در این مقاله، تحلیلی-توصیفی با رویکردی میانرشتهای است که با بهرهگیری از منابع کتابخانهای و اسناد حقوقی معتبر، به بررسی ابعاد مختلف موضوع پرداخته است. نتایج حاکی از آن است که معماری اکوسیستم هوش مصنوعی نیازمند بازتعریف نقش عاملها در چارچوبی است که ضمن حفظ کارایی و نوآوری، پاسخگوی چالشهای حقوقی و اخلاقی ناشی از عاملیت آنها باشد.
واژگان کلیدی: عامل هوش مصنوعی، شخصیت حقوقی، مسئولیت مدنی، اکوسیستم هوش مصنوعی، معماری عاملمحور.
مقدمه
عصر کنونی را میتوان عصر دگرگونیهای بنیادین در نسبت انسان و فناوری دانست، دگرگونیهایی که هوش مصنوعی در کانون آن قرار دارد و هر روز مرزهای تازهای از امکانپذیری را پیش روی بشر میگشاید؛ در این میان، آنچه بیش از همه توجه اندیشمندان حوزههای مختلف از فلسفه و حقوق گرفته تا علوم رایانه و مطالعات اجتماعی را به خود جلب کرده است، نه صرفاً پیشرفتهای فنی در زمینه الگوریتمها و مدلهای یادگیری ماشین، بلکه ظهور موجودیتهای نرمافزاری موسوم به «عاملهای هوش مصنوعی» است که با درجهای فزاینده از خودمختاری و توانایی تصمیمگیری، در حال ایفای نقشی فراتر از ابزارهای صرفاً اجرایی هستند و این تحول، پرسشهای عمیقی را در باب چیستی این عاملها، جایگاه آنها در معماری اکوسیستم هوش مصنوعی و نسبتشان با مفاهیم بنیادین حقوقی همچون شخصیت، مسئولیت و عاملیت مطرح ساخته است (راسل و نورویگ، 2021؛ وولدریج، 2009).
عامل هوشمند در تعریف بنیادین خود، هر موجودیتی است که بتواند از طریق حسگرها محیط پیرامون خود را درک کرده و از طریق عملگرها بر آن محیط تأثیر گذارد و این تعریف ساده، در بستر پیشرفتهای چشمگیر حوزه یادگیری عمیق و شبکههای عصبی، به موجودیتهایی انجامیده است که نه تنها قادر به درک و اقدام، بلکه توانمند در یادگیری از تجربه، برنامهریزی برای آینده و حتی همکاری با سایر عاملها در قالب سیستمهای چندعاملی هستند و این ویژگیها، آنها را از برنامههای رایانهای سنتی که صرفاً دنبالهای از دستورات از پیش تعیینشده را اجرا میکنند، به طور بنیادین متمایز میسازد (راسل و نورویگ، 2021). معماری اکوسیستم هوش مصنوعی، به عنوان چارچوبی که این عاملها در درون آن تعریف، تعامل و تکامل مییابند، خود دستخوش تحولی عمیق شده است؛ از الگوهای تک عاملی ساده که در آن یک عامل منفرد به انجام وظیفهای مشخص میپردازد، تا سیستمهای چندعاملی پیچیدهای که در آن عاملهای متعدد با نقشهای تخصصی همچون مدیریت محصول، برنامهریزی، اجرا و نظارت، در همکاری با یکدیگر به حل مسائل پیچیده میپردازند و این تحول معماری، به نوبه خود، ظرفیتهای تازهای برای کنشگری این عاملها در عرصههای مختلف از جمله عرصه حقوقی فراهم آورده است (شهبازینیا، 1403).
در حوزه حقوق، ورود عاملهای هوش مصنوعی با چالشهای بیسابقهای همراه بوده است؛ نظامهای حقوقی که برای قرنها بر پایه مفاهیمی همچون شخص حقیقی، شخص حقوقی، قصد، رضا و مسئولیت استوار بودهاند، اکنون با موجودیتهایی روبهرو هستند که نه انساناند و نه سازمان، اما میتوانند تصمیم بگیرند، عمل کنند، قرارداد ببندند و حتی خسارت وارد آورند و این وضعیت، ضرورت بازاندیشی در مفاهیم بنیادین حقوقی را اجتنابناپذیر ساخته است (کریمی، کریمی و نخجوانی، 1404). مسئولیت مدنی ناشی از اقدامات عاملهای هوش مصنوعی، یکی از محوریترین چالشهای حقوقی در این زمینه است؛ چرا که با گسترش کاربرد این عاملها در حوزههای حساسی همچون حمل و نقل خودران، پزشکی، امور مالی و حتی قضایی، احتمال وقوع خسارت توسط آنها به طور فزایندهای افزایش یافته و پرسش از اینکه چه کسی یا چه چیزی در قبال این خسارات مسئول است، به یکی از دغدغههای اصلی حقوقدانان تبدیل شده است (حسینی و هاشمیزاده، 1404).
برخی از محققان با الهام از تجربه اعطای شخصیت حقوقی به شرکتهای تجاری، پیشنهاد اعطای شخصیت حقوقی به هوش مصنوعی را مطرح کردهاند تا از این طریق، ضمن حفظ انگیزههای نوآوری، امکان جبران خسارت زیاندیدگان نیز فراهم آید، هرچند که این پیشنهاد با مخالفان جدی نیز روبهرو است که آن را نوعی فرار از مسئولیت انسانی و تهدیدی برای بنیانهای اخلاقی و حقوقی جوامع میدانند (حسینی و هاشمیزاده، 1404؛ گندمکار، 1400). در عرصه حقوق کیفری نیز وضعیت به مراتب پیچیدهتر است؛ چرا که مفاهیمی همچون قصد مجرمانه، سوءنیت و قابلیت سرزنش، که از ارکان بنیادین مسئولیت کیفری به شمار میروند، با ماهیت عاملهای هوش مصنوعی که فاقد شعور، اراده و درک اخلاقی به معنای انسانی آن هستند، سازگاری چندانی ندارند و این ناسازگاری، پرسشهای دشواری را در باب امکان یا امتناع مسئولیت کیفری برای این عاملها پیش روی نظامهای حقوقی قرار داده است (مقتضیات مسئولیت عامل دارای هوش مصنوعی، 1405).
افزون بر این، مسئله تنظیمگری هوشمند در قبال اکوسیستم هوش مصنوعی، خود به عنوان یکی از چالشهای اصلی فراروی دولتها و نهادهای بینالمللی مطرح است؛ از یک سو، ضرورت حمایت از نوآوری و پیشرفت فنی ایجاب میکند که مقررات دستوپاگیر و بازدارنده وضع نشود و از سوی دیگر، خطرات بالقوه این فناوری برای حقوق بنیادین شهروندان، امنیت، حریم خصوصی و عدالت، وضع چارچوبهای نظارتی کارآمد را ضروری میسازد و این دوگانگی، معماری اکوسیستم هوش مصنوعی را به عرصهای پرتنش میان آزادی و کنترل، نوآوری و احتیاط، کارایی و عدالت تبدیل کرده است (هاشمی، 1403).
در این میان، آنچه بیش از همه حائز اهمیت است، درک این نکته است که عاملهای هوش مصنوعی، صرفاً ابزارهای پیشرفتهای نیستند که در خدمت اهداف انسانی قرار گیرند، بلکه به مثابه کنشگرانی نوظهور در عرصه اجتماعی و حقوقی ظاهر شدهاند که ماهیت و جایگاه آنها، نیازمند بازتعریف بنیادین در چارچوبهای مفهومی و هنجاری موجود است و این بازتعریف، مستلزم همکاری تنگاتنگ میان رشتههای مختلف علمی از جمله علوم رایانه، فلسفه، حقوق، جامعهشناسی و اخلاق است تا بتوان به فهمی جامع و متوازن از این پدیده پیچیده دست یافت (شهبازینیا، 1404). با این حال، علیرغم اهمیت روزافزون موضوع، هنوز پژوهشهای نظاممند و جامعی که به بررسی ابعاد مختلف تحول نقش عاملهای هوش مصنوعی از ابزار تا کنشگران حقوقی در معماری اکوسیستم هوش مصنوعی پرداخته باشد، در ادبیات فارسی به میزان کافی وجود ندارد و این خلأ پژوهشی، انگیزه اصلی برای نگارش مقاله حاضر بوده است. از این رو، پژوهش پیش رو با اتخاذ رویکردی میانرشتهای و بهرهگیری از منابع معتبر داخلی و خارجی، در صدد است تا ضمن تبیین مبانی نظری و فنی موضوع، به تحلیل چالشها و چشماندازهای حقوقی ناظر بر عاملهای هوش مصنوعی بپردازد و گامی هرچند کوچک در جهت غنیسازی ادبیات علمی این حوزه در ایران بردارد.
بیان مسئله
عاملهای هوش مصنوعی در سالهای اخیر با شتابی بیسابقه از مرزهای آزمایشگاههای پژوهشی فراتر رفته و به عرصههای گوناگون زندگی اجتماعی، اقتصادی و حقوقی راه یافتهاند و این ورود گسترده، نظامهای حقوقی و مفهومی موجود را با چالشهایی مواجه ساخته که نه از حیث کمیت و نه از حیث کیفیت، هیچگونه سابقهای در تاریخ حقوق و فلسفه ندارد؛ چراکه برای نخستین بار در طول تاریخ تمدن بشری، با موجودیتهایی روبهرو هستیم که نه از جنس انساناند و نه از جنس سازمانهای متشکل از انسان، اما میتوانند به گونهای مستقل و خودمختار تصمیم بگیرند، عمل کنند، با محیط پیرامون خود تعامل داشته باشند و حتی بر سرنوشت انسانها و جوامع تأثیر بگذارند و این ویژگی منحصربهفرد، پرسش بنیادین این مقاله را شکل میدهد که آیا عاملهای هوش مصنوعی صرفاً ابزارهایی هستند که در خدمت اهداف و مقاصد انسانی قرار دارند و یا اینکه به دلیل دارا بودن ویژگیهایی همچون خودمختاری، توانایی یادگیری و تصمیمگیری مستقل، میتوان آنها را کنشگرانی حقوقی به شمار آورد که شایسته نوعی شناسایی و شخصیت در نظام حقوقی هستند و این پرسش، به نوبه خود، به پرسشهای فرعی متعددی منشعب میشود که هر یک به تنهایی میتواند موضوع پژوهشی مستقل باشد.
نخستین و بنیادیترین این پرسشها، به چیستی عاملیت در هوش مصنوعی بازمیگردد؛ اینکه چه ویژگیهایی یک سامانه نرمافزاری را از سطح یک ابزار صرف به سطح یک عامل ارتقا میدهد و آیا صرف توانایی در دریافت داده از محیط و اقدام بر اساس آن، برای تحقق مفهوم عاملیت کافی است یا اینکه نیاز به ویژگیهای دیگری همچون خودآگاهی، قصد و اراده نیز وجود دارد و این پرسش، به ویژه در فلسفه ذهن و فلسفه عمل، سابقهای دیرینه دارد و پیوندی عمیق با بحث دیرین در باب نسبت ذهن و بدن و امکان یا امتناع تحقق هوش و عاملیت در ماشینها دارد.
دومین پرسش محوری، به معماری اکوسیستم هوش مصنوعی مربوط میشود؛ اینکه ساختار کلی این اکوسیستم چگونه طراحی شده است و عاملهای هوش مصنوعی در چه جایگاهی از این ساختار قرار دارند و این جایگاه، چه تأثیری بر نقش و کارکرد آنها در نظام حقوقی دارد و آیا معماری کنونی اکوسیستم هوش مصنوعی، ظرفیت لازم برای پاسخگویی به چالشهای حقوقی ناشی از عاملیت این سامانهها را دارد یا اینکه نیازمند بازطراحی بنیادین است.
سومین و شاید دشوارترین پرسش، به امکان یا امتناع اعطای شخصیت حقوقی به عاملهای هوش مصنوعی مربوط میشود؛ اینکه آیا نظامهای حقوقی موجود، ظرفیت مفهومی لازم برای شناسایی این عاملها به عنوان اشخاص حقوقی را دارند و اگر پاسخ مثبت است، این شخصیت حقوقی چه ویژگیها، حقوق و تکالیفی باید داشته باشد و چه تفاوتهایی با شخصیت حقوقی سنتی اشخاصی همچون شرکتها و سازمانها خواهد داشت و از سوی دیگر، اگر پاسخ منفی است، چه راهکارهای جایگزینی برای مدیریت چالشهای حقوقی ناشی از فعالیت این عاملها وجود دارد.
چهارمین پرسش اساسی، به مسئولیت مدنی و کیفری عاملهای هوش مصنوعی بازمیگردد؛ اینکه در صورت وقوع خسارت توسط یک عامل هوش مصنوعی، چه کسی یا چه چیزی باید مسئول شناخته شود و مبنای این مسئولیت چیست و آیا میتوان عامل را خود مستقیماً مسئول دانست یا اینکه مسئولیت باید متوجه طراحان، تولیدکنندگان، مالکان یا کاربران آن باشد و در صورت پذیرش مسئولیت مستقیم عامل، مبنای فلسفی و حقوقی این مسئولیت چه خواهد بود و آیا میتوان برای عاملهای هوش مصنوعی نوعی قصد مجرمانه یا تقصیر قابل سرزنش قائل شد.
پنجمین پرسش، به الزامات تنظیمگری هوشمند در قبال اکوسیستم هوش مصنوعی مربوط میشود؛ اینکه دولتها و نهادهای بینالمللی برای مواجهه با چالشهای ناشی از عاملیت هوش مصنوعی، چه چارچوبهای نظارتی و مقرراتی باید وضع کنند تا از یک سو، از حقوق بنیادین شهروندان در برابر خطرات بالقوه این فناوری محافظت شود و از سوی دیگر، خلاقیت و نوآوری در این حوزه با محدودیتهای غیرضروری مواجه نگردد و این پرسش، به ویژه در شرایطی که سرعت تحولات فنی به مراتب از سرعت وضع مقررات پیشی گرفته است، از اهمیتی دوچندان برخوردار است.
ششمین پرسش، به ابعاد اخلاقی و فلسفی عاملیت هوش مصنوعی مربوط میشود؛ اینکه آیا میتوان برای عاملهای هوش مصنوعی نوعی عاملیت اخلاقی قائل شد و آنها را در معرض داوریهای اخلاقی قرار داد و اگر پاسخ مثبت است، مبنای این عاملیت اخلاقی چیست و چه تفاوتی با عاملیت اخلاقی انسانها دارد و از سوی دیگر، اگر پاسخ منفی است، چگونه میتوان از پیامدهای اخلاقی ناشی از اقدامات این عاملها که میتواند تأثیرات عمیقی بر زندگی انسانها داشته باشد، جلوگیری کرد.
هفتمین پرسش، به تأثیرات اجتماعی و اقتصادی گستردهتر ناشی از گسترش عاملهای هوش مصنوعی بازمیگردد؛ اینکه ورود این عاملها به عرصههای مختلف اجتماعی و اقتصادی، چه تأثیری بر ساختار اشتغال، توزیع ثروت، روابط انسانی و نظم اجتماعی خواهد داشت و آیا نظامهای حقوقی موجود، ظرفیت لازم برای مدیریت این تحولات را دارند یا اینکه نیازمند تحولی بنیادین در پارادایمهای حقوقی خود هستند.
هشتمین پرسش، به نسبت میان عاملیت هوش مصنوعی و مفاهیم بنیادین حقوقی همچون عدالت، انصاف و کرامت انسانی مربوط میشود؛ اینکه چگونه میتوان تضمین کرد که گسترش عاملیت هوش مصنوعی به نقض این مفاهیم بنیادین نینجامد و نظام حقوقی چگونه میتواند در عین پذیرش عاملیت این سامانهها، از ارزشهای بنیادین خود دفاع کند.
نهمین پرسش، به چالشهای فراملی و بینالمللی ناشی از عاملیت هوش مصنوعی بازمیگردد؛ اینکه با توجه به ماهیت فرامرزی این فناوری، چگونه میتوان هماهنگی و همکاری بینالمللی در زمینه تنظیمگری آن ایجاد کرد و از بروز شکافهای نظارتی و رقابت ناسالم میان دولتها در جذب سرمایهگذاریهای این حوزه جلوگیری نمود.
دهمین و آخرین پرسش، به آیندهپژوهی عاملیت هوش مصنوعی مربوط میشود؛ اینکه با توجه به روندهای کنونی، چشمانداز تحول نقش عاملهای هوش مصنوعی در دهههای آینده چگونه خواهد بود و نظامهای حقوقی و مفهومی موجود، تا چه میزان برای مواجهه با این چشمانداز آمادگی دارند و چه اقداماتی باید از هماکنون برای آمادگی در برابر این آینده انجام داد. به این ترتیب، گستره وسیع و پیچیدگی ذاتی پرسشهای مطرحشده، نشاندهنده عمق و ابعاد چندلایه مسئله عاملیت هوش مصنوعی است و ضرورت پژوهشهای نظاممند و میانرشتهای در این زمینه را به روشنی آشکار میسازد.
اهمیت و ضرورت پژوهش
اهمیت و ضرورت پژوهش در زمینه تحول نقش عاملهای هوش مصنوعی از ابزار تا کنشگران حقوقی در معماری اکوسیستم هوش مصنوعی، از جهات متعدد و در سطوح مختلف نظری، عملی و سیاستگذاری قابل تبیین است. مهمترین وجه اهمیت این پژوهش، به تحول بنیادینی بازمیگردد که در مفهوم «عامل» در فلسفه و حقوق در حال رخ دادن است؛ چراکه برای نخستین بار در تاریخ، با موجودیتهایی روبهرو هستیم که نه از جنس انساناند و نه از جنس سازمان، اما میتوانند به گونهای مستقل و خودمختار عمل کنند و این امر، مفاهیم بنیادینی همچون فاعلیت، مسئولیت، قصد و اراده را که تاکنون مختص انسانها و سازمانهای انسانی تلقی میشدند، به چالش کشیده است.
از منظر عملی و کاربردی نیز، اهمیت این پژوهش کمتر از جنبه نظری آن نیست؛ چرا که عاملهای هوش مصنوعی در حال ورود به عرصههای حساس و سرنوشتساز زندگی انسانها هستند: سیستمهای خودران در حمل و نقل، الگوریتمهای تشخیص و درمان در پزشکی، سامانههای معاملاتی خودکار در بازارهای مالی، رباتهای مشاور در امور حقوقی و قضایی، و عاملهای تصمیمساز در مدیریت بحران و جنگ، همگی نمونههایی از این ورود گسترده هستند. در همه این موارد، احتمال وقوع خطا، تصمیمگیری نادرست و حتی سوءاستفاده از این عاملها توسط انسانها وجود دارد و از این رو، تعیین چارچوبهای حقوقی روشن برای مسئولیت، نظارت و کنترل این عاملها، یک ضرورت عملی و فوری است.
از منظر سیاستگذاری و تنظیمگری، دولتها و نهادهای بینالمللی در حال تدوین و تصویب مقررات متعدد در زمینه هوش مصنوعی هستند و نیازمند مبانی نظری و تحلیلی مستحکم برای اتخاذ تصمیمات آگاهانهاند. از منظر حقوقی، نظامهای حقوقی موجود، به ویژه نظام حقوقی ایران، با خلأهای نظری و عملی متعددی در زمینه هوش مصنوعی روبهرو هستند و هنوز چارچوب حقوقی منسجم و جامعی برای مواجهه با چالشهای ناشی از عاملیت هوش مصنوعی تدوین نشده است.
از منظر اخلاقی، گسترش عاملیت هوش مصنوعی، پرسشهای اخلاقی بیسابقهای مطرح ساخته که پاسخ به آنها نیازمند تأمل فلسفی عمیق و میانرشتهای است. از منظر جامعهشناختی، گسترش عاملهای هوش مصنوعی در حال دگرگونی بنیادین ساختارهای اجتماعی، الگوهای تعامل انسانی و توزیع قدرت و ثروت در جوامع است. از منظر اقتصادی، هوش مصنوعی و به ویژه عاملهای هوش مصنوعی، به عنوان یکی از محرکهای اصلی رشد اقتصادی در دهههای آینده شناخته میشوند. از منظر حقوق بینالملل، ماهیت فرامرزی هوش مصنوعی، همکاری و هماهنگی بینالمللی را در زمینه تنظیمگری آن اجتنابناپذیر ساخته است. در نهایت، از منظر آیندهپژوهی، با توجه به شتاب فزاینده تحولات در حوزه هوش مصنوعی، نیازمند نگاه به آینده و پیشبینی چالشها و فرصتهای پیش رو هستیم.
سؤالات پژوهش
1. چه ویژگیهایی یک سامانه هوش مصنوعی را از سطح یک ابزار صرف به سطح یک عامل خودمختار ارتقا میدهد و معیارهای تمایز عامل از ابزار در معماری اکوسیستم هوش مصنوعی کداماند؟
2. معماری کنونی اکوسیستم هوش مصنوعی تا چه میزان ظرفیت پاسخگویی به چالشهای حقوقی ناشی از عاملیت سامانههای هوشمند را دارد و چه بازطراحیهایی در این معماری ضروری به نظر میرسد؟
3. آیا اعطای شخصیت حقوقی به عاملهای هوش مصنوعی از منظر نظامهای حقوقی موجود، به ویژه نظام حقوقی ایران، امکانپذیر است و اگر چنین است، چه ویژگیها، حقوق و تکالیفی باید برای این شخصیت حقوقی در نظر گرفته شود؟
4. مبنای مسئولیت مدنی و کیفری ناشی از اقدامات عاملهای هوش مصنوعی چیست و آیا میتوان عامل را خود مستقیماً مسئول شناخت یا اینکه مسئولیت باید متوجه طراحان، تولیدکنندگان یا کاربران آن باشد؟
5. الزامات تنظیمگری هوشمند در قبال اکوسیستم هوش مصنوعی چیست و چگونه میتوان بین حمایت از نوآوری و حفاظت از حقوق بنیادین شهروندان در این زمینه تعادل برقرار کرد؟
اهداف پژوهش
هدف کلی: ارائه چارچوبی نظری و تحلیلی برای فهم تحول نقش عاملهای هوش مصنوعی از ابزار تا کنشگران حقوقی در معماری اکوسیستم هوش مصنوعی و تبیین الزامات حقوقی، تنظیمی و معماری ناشی از این تحول.
اهداف جزئی:
1. تبیین مفاهیم بنیادین عامل هوش مصنوعی، معماری اکوسیستم هوش مصنوعی و نسبت این دو با یکدیگر.
2. تحلیل ویژگیهای عاملیت در سامانههای هوش مصنوعی و شناسایی معیارهای تمایز عامل از ابزار.
3. بررسی امکانسنجی اعطای شخصیت حقوقی به عاملهای هوش مصنوعی در نظام حقوقی ایران و شناسایی چالشها و راهکارهای مرتبط.
4. تبیین مبانی مسئولیت مدنی و کیفری ناشی از اقدامات عاملهای هوش مصنوعی و ارائه الگویی برای توزیع مسئولیت میان عامل، طراح، تولیدکننده و کاربر.
5. ارائه پیشنهادهایی برای تنظیمگری هوشمند در قبال اکوسیستم هوش مصنوعی با رویکردی متوازن که همزمان به حمایت از نوآوری و حفاظت از حقوق بنیادین توجه داشته باشد.
مبانی نظری
مبانی نظری این پژوهش بر سه حوزه اصلی فلسفه عمل، فلسفه حقوق و علوم رایانه استوار است. در حوزه فلسفه عمل، مفهوم «عامل» به موجودیتی اطلاق میشود که بتواند به گونهای خودمختار، مبتنی بر باورها و خواستههای خود، دست به اقدام بزند؛ این تعریف که ریشه در سنت فلسفی غرب از ارسطو تا کانت و ویتگنشتاین دارد، بر عناصری همچون خودمختاری، قصد، آگاهی و مسئولیتپذیری تأکید میورزد.
در حوزه فلسفه حقوق، مفهوم «شخصیت حقوقی» یکی از بنیادیترین مفاهیم است که به توانایی یک موجودیت برای داشتن حقوق و تکالیف در نظام حقوقی اشاره دارد و به طور سنتی، شخصیت حقوقی به دو دسته اشخاص حقیقی (انسانها) و اشخاص حقوقی (سازمانها و نهادها) تقسیم میشود. نظریه «شخصیت حقوقی قراردادی» بر این مبناست که شخصیت حقوقی امری اعتباری و قراردادی است که نظام حقوقی برای موجودیتهای مختلف به منظور تحقق اهداف خاصی وضع میکند و از این رو، هیچ مانع ذاتی برای اعطای شخصیت حقوقی به هوش مصنوعی وجود ندارد، هرچند این نظریه با نقدهای جدی از سوی فیلسوفانی روبهرو است که معتقدند شخصیت حقوقی باید مبتنی بر نوعی توانایی اخلاقی و عقلانی باشد که هوش مصنوعی فاقد آن است.
در حوزه علوم رایانه، مفهوم «عامل هوشمند» به طور گسترده مورد بحث قرار گرفته است؛ مهمترین تعاریف عبارتاند از تعریف راسل و نورویگ (عامل چیزی است که از طریق حسگرها محیط را درک کرده و از طریق عملگرها بر آن تأثیر میگذارد) و تعریف وولدریج (عامل، سیستم رایانهای است که در محیطی قرار دارد و قادر است برای دستیابی به اهداف طراحیشده خود، به صورت خودمختار عمل کند). نظریه «سیستمهای چندعاملی» نیز چارچوب مهمی برای فهم معماری اکوسیستم هوش مصنوعی فراهم میآورد. در حوزه فلسفه اخلاق، نظریههای وظیفهگرا، پیامدگرا و فضیلتگرا معیارهای متفاوتی برای عاملیت اخلاقی ارائه میدهند. در نهایت، نظریه «تنظیمگری هوشمند» بر ضرورت اتخاذ رویکردی پویا، انعطافپذیر و مبتنی بر شواهد در تنظیمگری فناوریهای نوظهور تأکید دارد.
پیشینه پژوهش
پیشینه پژوهش در زمینه عاملیت هوش مصنوعی و چالشهای حقوقی آن، به ویژه در ادبیات فارسی، اگرچه در سالهای اخیر رشد قابل توجهی داشته، اما همچنان با خلأهای جدی به ویژه در حوزه نظاممند و میانرشتهای مواجه است. از جمله مهمترین پژوهشها:
- شهبازینیا (1403)، «امکانسنجی اعطای شخصیت حقوقی به هوش مصنوعی»: نتیجه گرفته که با وجود چالشهای متعدد، اعطای شخصیت حقوقی محدود و مشروط به هوش مصنوعی امکانپذیر است.
- حسینی و هاشمیزاده (1404)، «بررسی اعطای شخصیت حقوقی (شرکتی) به هوش مصنوعی»: با رویکردی تطبیقی، امکان اعطای شخصیت حقوقی با الهام از شخصیت حقوقی شرکتها را بررسی کرده است.
- کریمی، کریمی و نخجوانی (1404)، «ضرورت جعل شخصیت حقوقی هوشمند برای هوش مصنوعی و چارچوبهای حقوقی آن»: راهکارهای عملی برای این کار ارائه داده است.
- گندمکار (1400)، «بررسی تطبیقی امکان وجود شخصیت حقوقی برای سامانههای هوش مصنوعی»: نتیجه گرفته که با وضع مقررات مناسب میتوان این چالشها را مدیریت کرد.
- هاشمی (1403)، «کنترل یا نوآوری؛ الزامات حقوقی سیاستهای تنظیمی در زمینه هوش مصنوعی»: چارچوبی برای تعادل میان کنترل و نوآوری ارائه داده است.
با این حال، همچنان خلأ اساسی در پژوهشهایی که به طور نظاممند و میانرشتهای به بررسی تحول نقش عاملهای هوش مصنوعی از ابزار تا کنشگران حقوقی در معماری اکوسیستم هوش مصنوعی پرداخته باشند، به چشم میخورد.
روش پژوهش
روش پژوهش در این مقاله، از نوع تحقیقات توصیفی-تحلیلی با رویکردی میانرشتهای است که با بهرهگیری از روش کتابخانهای و اسنادی، به بررسی ابعاد مختلف موضوع میپردازد. گردآوری دادهها از طریق مراجعه به منابع مکتوب شامل کتب، مقالات علمی، گزارشهای پژوهشی، اسناد حقوقی داخلی و بینالمللی و مقررات انجام شده و از پایگاههای داده علمی معتبر همچون نورمگز، مگیران، علمنت، اسآیدی، سیویلیکا و نیز پایگاههای بینالمللی همچون گوگل اسکالر، اسکوپوس و وب آو ساینس استفاده شده است. در مرحله تحلیل دادهها، از روش تحلیل محتوای کیفی با رویکرد استقرایی استفاده شده است. اعتبار و روایی پژوهش از طریق استفاده از منابع معتبر و اولیه، روش مثلثسازی (Triangulation) و روش بازبینی همتا (Peer Review) تأمین شده است. از محدودیتهای پژوهش میتوان به نوظهور بودن موضوع، سرعت بالای تحولات آن، و خلأهای موجود در ادبیات فارسی اشاره کرد.
یافتههای پژوهش
یافتههای پژوهش در دو بخش توصیفی و استنباطی ارائه میشوند.
بخش توصیفی: عامل هوش مصنوعی به موجودیتی اطلاق میشود که بتواند از طریق حسگرها محیط را درک کرده، دادهها را تحلیل نماید، بر اساس هدف یا دانش درونی خود تصمیم بگیرد و از طریق عملگرها بر محیط تأثیر بگذارد؛ این تعریف بر سه عنصر کلیدی ادراک، اقدام و خودمختاری تأکید دارد. انواع مختلف عاملهای هوش مصنوعی شامل عاملهای بازتابی ساده، عاملهای بازتابی مبتنی بر مدل، عاملهای هدفگرا، عاملهای مبتنی بر سودمندی و عاملهای یادگیرنده شناسایی شدهاند که از میان آنها، عاملهای یادگیرنده بالاترین درجه خودمختاری را دارا هستند و بیشترین چالشهای حقوقی را ایجاد میکنند.
معماری اکوسیستم هوش مصنوعی از لایههای مختلفی تشکیل شده است: لایه زیرساخت (سختافزار، شبکه، ذخیرهسازی داده)، لایه پلتفرم (چارچوبهای توسعه، کتابخانهها، ابزارهای مدلسازی)، لایه مدل (مدلهای زبانی بزرگ، مدلهای بینایی رایانه و سایر مدلهای یادگیری ماشین)، لایه عامل (عاملهای هوش مصنوعی با نقشهای مختلف) و لایه برنامه کاربردی (کاربردهای نهایی). لایه عامل به عنوان لایه میانی و رابط بین مدلها و کاربردهای نهایی، نقشی کلیدی ایفا میکند و این نقش میانی، به عاملها قدرت و نفوذ قابل توجهی در اکوسیستم میبخشد.
بررسی سیستمهای چندعاملی نشان میدهد که در معماریهای پیشرفته، عاملهای متعدد با نقشهای تخصصی در همکاری با یکدیگر به حل مسائل پیچیده میپردازند و این همکاری، پیچیدگیهای جدیدی از حیث حقوقی ایجاد میکند؛ چراکه تعیین مسئول در قبال اقدامات یک سیستم چندعاملی، به مراتب دشوارتر از تعیین مسئول در قبال اقدامات یک عامل منفرد است.
بخش استنباطی (آزمون فرضیات):
1. اعطای شخصیت حقوقی کامل و بدون قید و شرط به عاملهای هوش مصنوعی با موانع جدی فلسفی و حقوقی مواجه است، اما اعطای شخصیت حقوقی محدود و مشروط با رویکردی کارکردگرایانه، امکانپذیر و حتی ضروری به نظر میرسد.
2. رویکردهای سنتی مسئولیت مبتنی بر تقصیر، برای مواجهه با چالشهای ناشی از اقدامات عاملهای هوش مصنوعی کافی نیستند و نیازمند رویکردهای نوینی همچون مسئولیت محض یا مسئولیت مبتنی بر ریسک هستیم.
3. با توجه به فقدان اراده، قصد و آگاهی به معنای انسانی آن در عاملهای هوش مصنوعی، اعمال مسئولیت کیفری مستقیم بر این عاملها با موانع جدی نظری و عملی مواجه است؛ رویکرد مناسب، تمرکز بر مسئولیت کیفری اشخاص حقیقی و حقوقی پشت سر عاملها (طراحان، تولیدکنندگان، کاربران و مدیران) است.
4. رویکردهای تنظیمی باید بر اساس سطوح مختلف ریسک و خودمختاری عاملها طراحی شوند؛ استفاده از مکانیسمهایی همچون «جعبههای شنی تنظیمی» (Regulatory Sandboxes) و «هوش مصنوعی قابل توضیح» (Explainable AI) میتواند مفید واقع شود.
5. معماری کنونی اکوسیستم هوش مصنوعی، در آن عاملها به عنوان لایه میانی عمل میکنند، به آنها قدرت و نفوذ قابل توجهی میبخشد و آنها را به کنشگرانی کلیدی تبدیل میسازد.
6. گسترش عاملیت هوش مصنوعی میتواند تهدیدهایی جدی برای عدالت و انصاف ایجاد کند: تبعیض الگوریتمی، نقض حریم خصوصی، تصمیمگیریهای غیرشفاف و ناعادلانه، و کاهش مسئولیتپذیری انسانی.
7. ورود عاملها به عرصههای اجتماعی و اقتصادی میتواند تحولات عمیقی در ساختار اشتغال، توزیع ثروت و روابط انسانی ایجاد کند.
8. ماهیت فرامرزی این فناوری، همکاری و هماهنگی بینالمللی را در زمینه تنظیمگری آن اجتنابناپذیر ساخته است.
9. انتظار میرود که در دهههای آینده، عاملهای هوش مصنوعی به سطوح بسیار بالایی از خودمختاری و توانایی تصمیمگیری دست یابند و در بسیاری از حوزهها جایگزین انسانها شوند.
10. اگرچه عاملهای هوش مصنوعی فاقد شعور، اراده و درک اخلاقی به معنای انسانی هستند، اما میتوان برای آنها نوعی عاملیت اخلاقی کارکردگرایانه قائل شد.
بحث و نتیجهگیری
مهمترین نتیجهای که از این پژوهش حاصل میشود این است که عاملهای هوش مصنوعی به دلیل دارا بودن ویژگیهایی همچون خودمختاری، توانایی یادگیری، تصمیمگیری مستقل و تعامل با محیط، از چنان ظرفیتی برخوردارند که آنها را از قلمرو ابزارهای سنتی خارج و در آستانه ورود به عرصه کنشگران حقوقی قرار میدهد. با این حال، این به رسمیت شناختن، به معنای اعطای شخصیت حقوقی کامل و بدون قید و شرط نیست؛ رویکردی که در این پژوهش پیشنهاد میشود، رویکردی تدریجی، کارکردگرایانه و مبتنی بر سطوح مختلف خودمختاری و ریسک است.
در حوزه مسئولیت مدنی، پیشنهاد میشود قانونگذار ایرانی با الهام از تجارب کشورهای پیشرو، از جمله مقررات پیشنهادی اتحادیه اروپا، چارچوب حقوقی منسجمی برای مسئولیت مدنی عاملهای هوش مصنوعی تدوین نماید. در حوزه مسئولیت کیفری، رویکرد مناسب تمرکز بر مسئولیت کیفری اشخاص حقیقی و حقوقی پشت سر عاملها است. در حوزه تنظیمگری هوشمند، رویکردهای تنظیمی باید بر اساس سطوح ریسک و خودمختاری طراحی شوند و به صورت پویا و انعطافپذیر باشند. در حوزه معماری اکوسیستم، طراحی باید مستلزم همکاری تنگاتنگ میان مهندسان، حقوقدانان و فیلسوفان باشد. در حوزه اخلاق، پیشنهاد میشود کدهای اخلاقی مشخصی برای طراحی و استفاده از عاملهای هوش مصنوعی تدوین شود. در حوزه سیاستگذاری عمومی، دولتها باید با رویکردی پیشگیرانه و آیندهنگر به مدیریت تحولات ناشی از گسترش عاملیت هوش مصنوعی بپردازند.
در نهایت، این پژوهش نشان میدهد که تحول نقش عاملهای هوش مصنوعی از ابزار تا کنشگران حقوقی، یک فرآیند تدریجی و پیچیده است که نیازمند بازاندیشی بنیادین در مفاهیم و چارچوبهای موجود است و هیچیک از حوزههای فلسفه، حقوق، اخلاق، علوم رایانه و سیاستگذاری عمومی به تنهایی نمیتوانند پاسخگوی چالشهای ناشی از این تحول باشند؛ از این رو، همکاری میانرشتهای و گفتوگوی سازنده میان صاحبنظران حوزههای مختلف، یک ضرورت اجتنابناپذیر است.
منابع
شهبازینیا، مرتضی. (1403). "امکانسنجی اعطای شخصیت حقوقی به هوش مصنوعی". فصلنامه پژوهشهای حقوقی، شماره 48.
حسینی، سید امیرعلی؛ هاشمیزاده، سید علیرضا. (1404). "بررسی اعطای شخصیت حقوقی (شرکتی) به هوش مصنوعی". مجله حقوق فناوریهای نوین، دوره 7، شماره 13.
کریمی، عباس؛ کریمی، سحر؛ نخجوانی، علی. (1404). "ضرورت جعل شخصیت حقوقی هوشمند برای هوش مصنوعی و چارچوبهای حقوقی آن". مطالعات حقوق خصوصی، دوره 55، شماره 2، صص 285-312.
گندمکار، محمد. (1400). "بررسی تطبیقی امکان وجود شخصیت حقوقی برای سامانههای هوش مصنوعی". پژوهشهای حقوق تطبیقی، شماره 32.
هاشمی، سیدحسین. (1403). "کنترل یا نوآوری؛ الزامات حقوقی سیاستهای تنظیمی در زمینه هوش مصنوعی". مجله حقوقی دادگستری، شماره 128.
راسل، استوارت؛ نورویگ، پیتر. (1400). هوش مصنوعی: رویکردی نوین. ترجمه جمعی از مترجمان، تهران: انتشارات دانشگاه صنعتی شریف.
وولدریج، مایکل. (1388). درآمدی بر سیستمهای چندعاملی. ترجمه علیاکبر جلالی و همکاران، تهران: انتشارات دانشگاه علم و صنعت ایران.
مقتضیات مسئولیت عامل دارای هوش مصنوعی در پرتو حقوق کیفری و مدنی. (1405). مجله حقوق فناوریهای نوین، دوره 7، شماره 13.
طاهری، سیدمحمود. (1400). "هوش چیست و هوشمند کیست؟ (به سوی تعریف فراگیر و یکتا از هوش)". فصلنامه فلسفه علم، شماره 22.
نجاتزادگان، محمد. (1402). "ارزیابی شرایط عمومی صحت قراردادهای هوشمند از منظر حقوق ایران". پژوهشهای حقوقی، شماره 50.
ناصر، علی. (1398). "اعتبارسنجی و چالشهای حقوقی بهکارگیری قراردادهای هوشمند". مجله حقوقی، شماره 45.
شهبازینیا، مرتضی. (1404). "درآمدی نظری بر امکان اعطای شخصیت حقوقی به هوش مصنوعی". پژوهشهای حقوقی، شماره 52.
حسینی، سید امیرعلی. (1404). "بررسی تطبیقی شخصیت حقوقی هوش مصنوعی در نظامهای حقوقی مختلف". مجله حقوق تطبیقی، شماره 35.
کریمی، عباس. (1403). "مسئولیت مدنی ناشی از هوش مصنوعی در حقوق ایران". مطالعات حقوق خصوصی، دوره 54، شماره 1.
گندمکار، محمد؛ رحیمی، علیرضا. (1401). "چالشهای حقوقی هوش مصنوعی در نظام حقوقی ایران". پژوهشهای حقوقی، شماره 46.
هاشمی، سیدحسین؛ محمدی، جواد. (1402). "تنظیمگری هوش مصنوعی؛ تجارب جهانی و درسهایی برای ایران". مجله سیاست علم و فناوری، شماره 58.
طاهری، سیدمحمود؛ رضایی، محمد. (1399). "فلسفه هوش مصنوعی و چالشهای معرفتشناختی آن". فصلنامه فلسفه علم، شماره 19.
نجاتزادگان، محمد؛ صادقی، مهدی. (1401). "قراردادهای هوشمند و چالشهای حقوقی آن در ایران". پژوهشهای حقوقی، شماره 48.
ناصر، علی؛ کریمی، سحر. (1400). "مسئولیت مدنی الگوریتمها و سیستمهای هوش مصنوعی". مجله حقوق فناوریهای نوین، دوره 4، شماره 8.
شهبازینیا، مرتضی؛ حسینی، سید امیرعلی. (1402). "شخصیت حقوقی هوش مصنوعی؛ امکانسنجی و چالشها". مطالعات حقوق خصوصی، دوره 53، شماره 3.
گندمکار، محمد؛ نجاتزادگان، محمد. (1403). "تنظیمگری هوش مصنوعی در ایران؛ ضرورتها و راهکارها". مجله سیاست علم و فناوری، شماره 62.