خلاصه مقاله： قانون ملی توسعه هوش مصنوعی پس از کش‌وقوس‌های فراوان میان مجلس، شورای نگهبان و مجمع تشخیص مصلحت نظام، سرانجام در ۲۲ شهریور ۱۴۰۵ توسط رئیس مجلس به رئیس‌جمهور ابلاغ شد . این قانون ۱۲ ماده‌ای، ساختار حکمرانی هوش مصنوعی ایران را با تأسیس «سازمان ملی هوش مصنوعی» زیر نظر رئیس‌جمهور و صندوق ۱۰۰ همتی بازتعریف می‌کند . اما آنچه برای کاربران، کسب‌وکارها و وکلا اهمیت دارد، ابعاد حقوقی و مسئولیت مدنی ناشی از کاربرد این فناوری است؛ موضوعی که قانون فعلی آن را به آیین‌نامه‌ها و اسناد بعدی حواله داده و همین ابهام، پتانسیل بالایی برای دعاوی آینده ایجاد می‌کند.

قانون چه می‌گوید و چه چیزی را تعیین تکلیف نکرده است؟

ساختار حکمرانی جدید

بر اساس ماده ۲ قانون ملی توسعه هوش مصنوعی، «سازمان ملی هوش مصنوعی» به عنوان سازمانی مستقل زیر نظر رئیس‌جمهور تشکیل می‌شود و همزمان دبیرخانه «شورای ملی راهبری هوش مصنوعی» خواهد بود . این سازمان موظف است اساسنامه خود را ظرف سه ماه با همکاری چند وزارتخانه تهیه و برای تصویب به هیئت وزیران ارائه دهد .

سطح‌بندی ریسک؛ گامی به سوی تنظیم‌گری

یکی از مهم‌ترین نوآوری‌های قانون، سطح‌بندی سامانه‌های هوش مصنوعی بر اساس میزان خطر است. سامانه‌ها به چهار سطح «کم»، «محدود»، «زیاد» و «بسیار زیاد» تقسیم می‌شوند. تشخیص مصادیق هر سطح و تعیین الزامات امنیتی بر عهده «مرکز ارزیابی و تأیید امنیت سامانه‌ها» خواهد بود . این مرکز موظف است سامانه‌های داخلی و خارجی را به‌صورت دوره‌ای بررسی کند و نتایج را هر شش ماه منتشر نماید.

آنچه قانون مسکوت گذاشته است

با وجود تعریف سطوح خطر، قانون فعلی هیچ ممنوعیت صریح یا مجازات مشخصی برای تخلفات توسعه‌دهندگان و عرضه‌کنندگان هوش مصنوعی تعیین نکرده است. همچنین الزاماتی مانند برچسب‌گذاری محتوای تولیدشده با هوش مصنوعی، نحوه اطلاع‌رسانی به کاربر و شرایط استفاده از داده‌های شخصی به‌صورت اجرایی و شفاف تعیین نشده‌اند .

نکته حقوقی مهم： قانون، سازمان ملی هوش مصنوعی را موظف کرده اسنادی درباره مالکیت فکری، اخلاق هوش مصنوعی، مسئولیت‌های مدنی و کیفری و تکالیف شرعی مرتبط تدوین کند و این اسناد مسیر تصویب در مراجع قانونی را طی کنند . یعنی مسئولیت مدنی ناشی از خطای هوش مصنوعی، فعلاً بدون چارچوب قانونی مشخص باقی مانده است.

مسئولیت مدنی ناشی از خطای هوش مصنوعی؛ چالش‌های حقوقی

مشکل اصلی： چه کسی مسئول است？

وقتی یک سیستم هوش مصنوعی خطا می‌کند و به کسی آسیب می‌زند، پرسش کلیدی این است：چه کسی باید خسارت را جبران کند？

گزینه‌های احتمالی：

• توسعه‌دهنده (شرکتی که مدل را ساخته)

• عرضه‌کننده (کسی که سامانه را در اختیار کاربر قرار داده)

• کاربر (کسی که از سامانه استفاده کرده)

• متصدی داده (کسی که داده‌های آموزشی را فراهم کرده)

قانون فعلی به این پرسش پاسخ صریحی نداده است. در حقوق ایران، برای مطالبه خسارت، باید ارکان سه‌گانه مسئولیت مدنی (ضرر، فعل زیان‌بار، رابطه سببیت) احراز شود. اما در مورد هوش مصنوعی، احراز «فعل زیان‌بار» و «رابطه سببیت» بسیار دشوار است، زیرا：

• سیستم‌های هوش مصنوعی جعبه سیاه هستند و تصمیم‌گیری آن‌ها قابل ردیابی کامل نیست

• خطا ممکن است ناشی از ترکیب داده‌های آموزشی، الگوریتم و تعامل کاربر باشد

• تقصیر توسعه‌دهنده یا عرضه‌کننده به‌سختی قابل اثبات است

مسیر فعلی： قواعد عمومی مسئولیت مدنی

تا زمانی که اسناد مسئولیت مدنی هوش مصنوعی تدوین و تصویب نشوند، دادگاه‌ها ناچارند به قواعد عمومی قانون مدنی (مواد ۱ تا ۳۳۱ و به‌ویژه ماده ۱ قانون مسئولیت مدنی) رجوع کنند. این قواعد برای فناوری‌های سنتی طراحی شده‌اند و تناسب کافی با پیچیدگی هوش مصنوعی ندارند.

ماده ۱ قانون مسئولیت مدنی مقرر می‌دارد：«هر کس بدون مجوز قانونی عمداً یا در نتیجه بی‌احتیاطی به جان یا سلامتی یا مال یا آزادی یا حیثیت یا شهرت تجارتی یا به هر حق دیگری که به موجب قانون برای افراد ایجاد گردیده لطمه‌ای وارد نماید که موجب ضرر مادی یا معنوی دیگری شود، مسئول جبران خسارت ناشی از عمل خود است.»

چالش： در مورد هوش مصنوعی، «بی‌احتیاطی» توسعه‌دهنده چیست？ آیا استفاده از مدلی که در خارج از کشور آموزش دیده و داده‌های آن شفاف نیست، تقصیر محسوب می‌شود？ قانون فعلی پاسخی ندارد.

مسئولیت کیفری؛ ابهام مضاعف

قانون هوش مصنوعی، سازمان ملی را موظف به تدوین اسناد «مسئولیت‌های مدنی و کیفری» کرده است . اما تا زمان تدوین این اسناد، مسئولیت کیفری ناشی از عملکرد سیستم‌های هوش مصنوعی کاملاً مبهم است. آیا یک خودروی خودران که تصادف می‌کند، راننده مسئول است یا سازنده？ آیا یک چت‌بات که مشاوره حقوقی غلط می‌دهد، عرضه‌کننده مسئول است یا کاربر？

تأثیر بر کسب‌وکارها و کاربران

اگر کسب‌وکار شما از هوش مصنوعی استفاده می‌کند

ریسک اول： عدم شفافیت در برچسب‌گذاری. قانون فعلی الزام صریحی برای برچسب‌گذاری محتوای تولیدشده با هوش مصنوعی تعیین نکرده است. اگر محصول یا محتوای شما با هوش مصنوعی تولید شده و این موضوع را اعلام نکنید، در آینده ممکن است مسئولیت مدنی متوجه شما شود، به‌ویژه اگر مشتری ادعا کند که فریب خورده است.

ریسک دوم： استفاده از داده‌های شخصی. قانون، شرایط استفاده از داده‌های شخصی در آموزش یا بهره‌برداری از سیستم‌های هوش مصنوعی را تعیین تکلیف نکرده است. اگر از داده‌های مشتریان برای آموزش مدل استفاده می‌کنید، مبنای قانونی شما چیست？ این خلأ می‌تواند مبنای شکایت نقض حریم خصوصی باشد.

ریسک سوم： سطح‌بندی ریسک. اگر محصول شما در سطح «زیاد» یا «بسیار زیاد» طبقه‌بندی شود، الزامات امنیتی مضاعفی بر شما تحمیل خواهد شد. هنوز مشخص نیست این الزامات چیست و چه هزینه‌ای دارد.

اگر کاربر یک سامانه هوش مصنوعی هستید

حقوق فعلی شما محدود است. اگر یک سیستم هوش مصنوعی (مثلاً یک اپلیکیشن مشاوره مالی یا حقوقی) به شما اطلاعات نادرست بدهد و شما بر اساس آن ضرر مالی کنید، مسیر قانونی روشنی برای جبران خسارت وجود ندارد. باید ثابت کنید که عرضه‌کننده تقصیر داشته — کاری که در عمل بسیار دشوار است.

نکته مهم： تا زمانی که اسناد مسئولیت مدنی تدوین نشوند، بهترین راهکار برای کاربران، احتیاط است：به سیستم‌های هوش مصنوعی برای تصمیمات مهم (مالی، حقوقی، پزشکی) اعتماد کامل نکنید و همیشه منبع انسانی را بررسی کنید.

چه زمانی به وکیل نیاز دارید？

اگر با موارد زیر مواجه شدید، حتماً با وکیل متخصص در حقوق فناوری و مسئولیت مدنی مشورت کنید：

• بر اثر استفاده از یک سیستم هوش مصنوعی (چت‌بات، اپلیکیشن مشاوره، سیستم خودکار) ضرر مالی یا معنوی دیده‌اید

• کسب‌وکار شما از هوش مصنوعی استفاده می‌کند و نگران مسئولیت حقوقی آینده هستید

• نیاز به تنظیم قرارداد با ارائه‌دهنده خدمات هوش مصنوعی دارید (به‌ویژه بندهای محدودیت مسئولیت)

• در پرونده‌ای درگیر شده‌اید که خطای هوش مصنوعی عامل اصلی خسارت بوده است

• نیاز به پیگیری حقوقی برای تدوین آیین‌نامه‌های اجرایی یا اسناد مسئولیت مدنی دارید

موسسه حقوقی فانوس عدالت ایرانیان با تیم متخصص در حقوق فناوری و دعاوی مسئولیت مدنی، آماده ارائه مشاوره و وکالت در این پرونده‌هاست. برای کسب اطلاعات بیشتر، به صفحه خدمات فناوری مراجعه کنید یا با کارشناسان ما تماس بگیرید.

سؤالات متداول

آیا قانون هوش مصنوعی، مسئولیت مدنی توسعه‌دهندگان را مشخص کرده است？
خیر. قانون فعلی فقط سازمان ملی هوش مصنوعی را موظف کرده اسنادی درباره مسئولیت‌های مدنی و کیفری تدوین کند و این اسناد مسیر تصویب را طی کنند . تا آن زمان، قواعد عمومی مسئولیت مدنی (ماده ۱ قانون مسئولیت مدنی) اعمال می‌شود که برای هوش مصنوعی تناسب کافی ندارد.

اگر یک چت‌بات مشاوره حقوقی غلط بدهد و من ضرر کنم، می‌توانم شکایت کنم？
از نظر تئوری بله، اما در عمل بسیار دشوار است. باید تقصیر عرضه‌کننده را اثبات کنید (مثلاً اینکه از داده‌های نادرست استفاده کرده یا هشدار کافی نداده است). قانون فعلی معیار مشخصی برای این تقصیر تعیین نکرده است.

آیا باید محتوای تولیدشده با هوش مصنوعی را برچسب‌گذاری کنم？
قانون فعلی الزام صریحی ندارد . اما احتیاط حکم می‌کند که این کار را انجام دهید، زیرا در آینده ممکن است مسئولیت مدنی متوجه شما شود اگر کاربر ادعا کند فریب خورده است.

سازمان ملی هوش مصنوعی چه وظیفه‌ای در قبال مسئولیت مدنی دارد？
این سازمان موظف است اسناد مسئولیت مدنی و کیفری را تدوین کند و برای تصویب به مراجع قانونی بفرستد . همچنین مرکز ارزیابی و تأیید امنیت سامانه‌ها وظیفه بررسی دوره‌ای سامانه‌ها و انتشار نتایج را بر عهده دارد.

آیا قانون هوش مصنوعی مجازاتی برای تخلفات تعیین کرده است？
خیر. یکی از مهم‌ترین نقدهای وارد بر قانون فعلی این است که هیچ مجازات یا جریمه مستقیمی برای تخلف توسعه‌دهندگان و عرضه‌کنندگان تعیین نکرده است . این خلأ باید در آیین‌نامه‌ها یا قوانین بعدی پر شود.

آیا درگیر پرونده‌ای مرتبط با خطای هوش مصنوعی هستید یا نگران مسئولیت حقوقی کسب‌وکار خود هستید？
برای مشاوره تخصصی و بررسی پرونده با موسسه حقوقی فانوس عدالت ایرانیان تماس بگیرید. کارشناسان ما آماده کمک به شما هستند.