وکیل و داور در عصر هوش مصنوعی؛ کالیفرنیا مرز «کمک گرفتن» و «واگذار کردن» را قانونی کرد
وقتی وکیلی لایحه‌ای را با کمک یک ابزار هوش مصنوعی مولد تنظیم می‌کند و در آن به رأیی استناد می‌شود که اصلاً وجود ندارد، مسئولیت با کیست؟ و اگر داوری برای جمع‌بندی ادله یا حتی پیش‌نویس رأی از همین ابزارها کمک بگیرد، آیا هنوز می‌توان گفت طرفین اختلاف خود را به «داور» سپرده‌اند؟ به نظر من این دو پرسش دیگر بحثی نظری نیست؛ پرسشی است که هر روز در دفاتر وکالت و جلسات داوری تکرار می‌شود و پاسخ روشن قانونی برای آن، در بیشتر نظام‌های حقوقی، هنوز وجود ندارد.
کالیفرنیا اکنون نخستین پاسخ تقنینی را داده است؛ فرماندار این ایالت در ۸ مهر ۱۴۰۵ (۳۰ سپتامبر ۲۰۲۶) لایحه‌ای را با عنوان SB 574 امضا کرد که برای استفاده وکلا و داوران از هوش مصنوعی مولد قاعده می‌گذارد. این لایحه بدون رأی مخالف از مجلس ایالتی گذشت، قانون حرفه‌ها و مشاغل و قانون آیین دادرسی مدنی کالیفرنیا را اصلاح می‌کند و بنا بر تحلیل مؤسسه Holland & Knight از ۱۱ دی ۱۴۰۵ (۱ ژانویه ۲۰۲۷) اجرایی می‌شود.
۱. ممنوعیت «واگذاری» وکالت به ماشین؛ قاعده‌ای درست با مرزی مبهم
هسته اصلی قانون این است که وکیل نباید «انجام وکالت» را به هوش مصنوعی مولد واگذار کند؛ این یعنی قانون‌گذار استفاده از ابزار را ممنوع نکرده، بلکه جایگزین شدن قضاوت حرفه‌ای را ممنوع کرده است. معتقدم این رویکرد از منع کلی بسیار واقع‌بینانه‌تر است؛ اما مشکل اینجاست که قانون نه «واگذاری» را تعریف کرده و نه «انجام وکالت» را، و همین ابهام، چنان‌که تحلیلگران Holland & Knight هم اشاره کرده‌اند، مرز میان کمک مجاز و واگذاری ممنوع را به داوری دادگاه‌ها می‌سپارد. به نظر من معیار عملی باید این باشد که آیا وکیل خود متن را فهمیده، سنجیده و پای آن ایستاده است یا صرفاً خروجی ماشین را امضا کرده است؛ نظارت صوری و مُهر زدن بر خروجی، نظارت نیست!
۲. تکلیف شخصی به راستی‌آزمایی استنادها
بخش دیگر قانون، آیین دادرسی مدنی کالیفرنیا را اصلاح می‌کند و مقرر می‌دارد هیچ لایحه‌ای نباید استنادی داشته باشد که وکیلِ مسئولِ آن شخصاً راستی‌آزمایی نکرده است؛ نکته ظریف آن است که این تکلیف به استنادهای تولیدشده با هوش مصنوعی محدود نیست و هر منبعی را دربر می‌گیرد. افزون بر این، وکیل باید برای راستی‌آزمایی خروجی هوش مصنوعی اقدامات معقول انجام دهد و محتوای نادرست یا ساختگی را اصلاح کند. ضمانت اجرا هم روشن شده است؛ دادگاه می‌تواند دستور غیرمالی صادر کند، جریمه به نفع دادگاه تعیین کند یا هزینه‌های وکالتی طرف مقابل را بر عهده متخلف بگذارد؛ و مؤسسه وکالتی نیز، جز در اوضاع‌واحوال استثنایی، نسبت به تخلف شرکا و کارکنانش مسئولیت مشترک دارد. به نظر من همین مسئولیت مؤسسه، مؤثرترین بخش قانون است؛ زیرا دفاتر را وادار می‌کند برای استفاده از این ابزارها رویه داخلی بنویسند.
۳. رازداری؛ ابزار عمومی، جای اطلاعات موکل نیست
قانون جدید اجازه نمی‌دهد وکیل اطلاعات محرمانه، غیرعمومی یا شناسایی‌کننده اشخاص را وارد سامانه هوش مصنوعی کند، مگر آنکه دسترسی به آن سامانه محدود به خود وکیل و اشخاصی باشد که او مجاز کرده و به حفظ محرمانگی متعهدند. معتقدم این حکم، در عمل، استفاده از بسیاری از نسخه‌های رایگان و عمومی چت‌بات‌ها را برای کار روی پرونده‌های واقعی منتفی می‌کند؛ و این نتیجه‌ای است که هر وکیلی، حتی بدون قانون، باید از تکلیف رازداری حرفه‌ای خود استنباط می‌کرد. آنچه قانون اضافه کرده، شفافیت است؛ دیگر نمی‌توان گفت «نمی‌دانستیم».
۴. داور نباید تصمیم‌گیری را به هوش مصنوعی بسپارد
برای من که در حوزه داوری فعالیت می‌کنم، جذاب‌ترین بخش قانون همین است؛ داوران از واگذاری هر بخشی از فرایند تصمیم‌گیری به هوش مصنوعی مولد منع شده‌اند و اگر به اطلاعات تولیدشده با هوش مصنوعی تکیه کنند، باید آن را به طرفین افشا کنند. منطق این حکم روشن است؛ طرفین داوری، شخص داور را به اعتبار دانش، تجربه و بی‌طرفی‌اش برگزیده‌اند و ارزیابی مستقل واقعیات، قانون و ادله تکلیف شخصی اوست. به نظر من الزام به افشا حتی از ممنوعیت مهم‌تر است؛ زیرا به طرفین امکان می‌دهد پیش از صدور رأی به اطلاعاتی که داور از ماشین گرفته اعتراض کنند و اصل تناظر حفظ شود. قانون همچنین سازوکاری برای رسیدگی به شکایت از ارائه‌دهندگان خدمات حل‌وفصل جایگزین اختلاف پیش‌بینی کرده که تا صدور تصمیم محرمانه می‌ماند.
۵. افشای استفاده از هوش مصنوعی نزد دادگاه؛ حکمی که هنوز شکل ندارد
قانون وکیل را مکلف می‌کند استفاده از هوش مصنوعی مولد در اسنادی که به دادگاه تقدیم می‌شود را افشا کند؛ اما شکل افشا، زمان آن و اینکه دقیقاً چه میزان استفاده آن را لازم می‌کند، مشخص نشده است. FindLaw یادآوری می‌کند که همه اسناد دعوا مشمول نیستند و برخی اسناد مربوط به کشف ادله ممکن است خارج از شمول باشند. به نظر من این بخش، ضعیف‌ترین حلقه قانون است؛ اگر هر استفاده‌ای، حتی اصلاح املایی یا ترجمه، مستلزم افشا باشد، افشا به عبارتی تشریفاتی و بی‌معنا در پای همه لوایح تبدیل می‌شود؛ و اگر معیار روشنی نباشد، وکلای محتاط بیش از حد افشا می‌کنند و وکلای بی‌مبالات هیچ. قانون خوب باید بگوید چه چیزی و چرا باید افشا شود!
۶. درس‌هایی برای ایران
نخست، تا جایی که بنده اطلاع دارم، در ایران هنوز نه در قوانین و نه در آیین‌نامه‌های کانون‌های وکلا یا مرکز وکلای قوه قضاییه، مقرره‌ای ویژه درباره استفاده وکلا از هوش مصنوعی مولد وجود ندارد؛ در حالی که استفاده از این ابزارها در تنظیم لوایح و دادخواست‌ها رو به گسترش است. معتقدم کانون‌های وکلا لازم نیست منتظر قانون مجلس بمانند؛ یک رهنمود حرفه‌ای کوتاه با سه محور «مسئولیت شخصی وکیل برای هر استناد»، «منع ورود اطلاعات موکل به ابزارهای عمومی» و «پاسخ‌گویی مؤسسه نسبت به کارکنان» می‌تواند بخش مهمی از خطر را مهار کند.
دوم، در داوری، قانون آیین دادرسی دادگاه‌های عمومی و انقلاب در امور مدنی و قانون داوری تجاری بین‌المللی بر رسیدگی و تصمیم‌گیری شخص داور بنا شده‌اند؛ به نظر من از همین منطق می‌توان نتیجه گرفت که واگذاری تصمیم به ماشین با ماهیت داوری سازگار نیست؛ با این حال، تا جایی که بنده اطلاع دارم، هیچ‌یک از این دو قانون حکم صریحی درباره هوش مصنوعی ندارند و بهتر است مراکز داوری داخلی در قواعد خود، تکلیف افشای استفاده از هوش مصنوعی را صریحاً بگنجانند. داوران و طرفین نیز می‌توانند از امروز در موافقت‌نامه داوری یا نخستین دستور رسیدگی، حدود استفاده از این ابزارها را تعیین کنند.
سوم، برای استارتاپ‌های حقوقی (لگال‌تک) پیام روشن است؛ محصولی که اطلاعات موکل را در سرورهای کنترل‌نشده پردازش کند یا استناد قابل‌راستی‌آزمایی ارائه ندهد، دیر یا زود با مانع حقوقی روبه‌رو می‌شود. و چهارم، تجربه کالیفرنیا نشان می‌دهد که ابهام در تعاریف کلیدی، حتی در یک قانون پیشرو، بار سنگینی بر دوش دادگاه‌ها می‌گذارد؛ اگر روزی ایران برای این حوزه قاعده‌گذاری کند، باید «واگذاری» و «افشا» را دقیق تعریف کند.
منابع: Holland & Knight، ۱ اکتبر ۲۰۲۶؛ Bloomberg Law، ۳۰ سپتامبر ۲۰۲۶؛ FindLaw، ۵ اکتبر ۲۰۲۶
این یادداشت جنبه آموزشی دارد و جایگزین مشاوره حقوقی در پرونده‌های مشخص نیست.