وقتی مأمور دولت از ماشین رأی می‌گیرد؛ دیوان عالی هند و جریمه‌ای که روی رویه‌های جعلی بنا شده بود
دیوان عالی هند جریمه‌ای ۴۲۵ کروری را که بر آرای ساختگی تولیدشده با هوش مصنوعی تکیه داشت، باطل کرد؛ مرز «کمک گرفتن از ماشین» و «سپردن تصمیم به ماشین» برای مقام اداری کجاست؟
به‌روزرسانی:
بحث هوش مصنوعی در دادرسی تا امروز بیشتر حول وکلا چرخیده است؛ وکیلی که لایحه‌اش را با چت‌بات نوشته و رأیی را استناد کرده که هرگز صادر نشده. اما پرسش مهم‌تر، به نظر من، جای دیگری است؛ اگر خودِ تصمیم‌گیرنده، یعنی مقامی که حق دارد جریمه کند، مالیات تعیین کند یا مجوز بدهد و بگیرد، متن تصمیمش را با کمک ماشین بنویسد و آن متن به رویه‌هایی ساختگی تکیه کند، سرنوشت آن تصمیم چیست؟ آیا با یک «اشتباه در استناد» روبه‌روییم که می‌شود از کنارش گذشت، یا با نقصی که اصل تصمیم را از اعتبار می‌اندازد؟
دیوان عالی هند در ۱۱ شهریور ۱۴۰۵ (۲ سپتامبر ۲۰۲۶) در پرونده Vijay Ghanshyam Gadiya v. Union of India به این پرسش پاسخ روشنی داد. یک مقام گمرکی در شهر سورت، با این ادعا که الماس طبیعی به‌عنوان الماس آزمایشگاهی اظهار شده، جریمه‌ای حدود ۴۲۵ کرور روپیه تعیین کرده بود و دادگاه عالی گجرات هم اعتراض را رد کرده بود. دیوان عالی وقتی آرای استنادشده در تصمیم گمرک را یکی‌یکی بررسی کرد، دید برخی اصلاً وجود ندارند و برخی هم وجود دارند اما چیزی را که به آن‌ها نسبت داده شده، نمی‌گویند. نتیجه، ابطال هم تصمیم گمرک و هم حکم دادگاه عالی بود. چند هفته بعد، در ۸ آبان ۱۴۰۵ (۳۰ اکتبر ۲۰۲۶)، دادگاه عالی بمبئی نیز تصمیم گمرکی دیگری را که به گفته شرکت معترض بر دو رأی ناموجود دیوان عالی تکیه داشت، با موافقت خود اداره گمرک ابطال و پرونده را برای رسیدگی دوباره بازگرداند.
۱. استدلالی که روی ماسه بنا شده باشد، فرو می‌ریزد
نکته اول رأی، سادگی آن است. دیوان عالی وارد این بحث نشد که آیا جریمه در ماهیت درست بوده یا نه؛ همین که تصمیم بر مطالبی «مشکوک» تکیه داشت، آن را برای بقای تصمیم کشنده دانست. به نظر من این منطق کاملاً درست است؛ تصمیم اداری یا قضایی فقط یک نتیجه نیست، بلکه زنجیره‌ای از استدلال است که به آن نتیجه می‌رسد. وقتی بخشی از این زنجیره ساختگی باشد، دیگر نمی‌دانیم اگر آن حلقه نبود، مقام تصمیم‌گیر به همان نتیجه می‌رسید یا نه. دیوان در همین رأی از رأی پیشین خود در پرونده Pooja Ramesh Singh نقل کرد که تصمیمی که بر مطالب جعلی تولیدشده با هوش مصنوعی تکیه دارد، اساساً «تصمیم» به شمار نمی‌آید؛ فارغ از اینکه آن مطالب اثر مستقیم بر نتیجه داشته یا غیرمستقیم. این معیاری سخت‌گیرانه است؛ اما معتقدم برای حفظ اعتماد عمومی لازم است!
۲. کمک گرفتن آری؛ سپردن کرسی تصمیم نه
رأی دیوان عالی هند ضدفناوری نیست. دیوان صریحاً پذیرفت که استفاده از هوش مصنوعی به‌عنوان ابزار کمکی را نمی‌توان انکار کرد؛ اما با تشبیهی گویا گفت که این فناوری می‌تواند نقش چرخ‌های کمکی دوچرخه را داشته باشد، نه اینکه روی صندلی خلبان بنشیند. به بیان دیوان، کمک هرگز جانشین داوری و تصمیم نمی‌شود. به نظر من این همان مرزی است که هر نظام حقوقی باید برای مقام‌های تصمیم‌گیر خود ترسیم کند؛ ماشین می‌تواند پیش‌نویس بدهد، خلاصه کند، ترجمه کند و منابع پیشنهاد بدهد؛ اما سنجیدن دلیل، احراز واقعیت و انتخاب قاعده، کاری است که باید ذهن انسانیِ مسئول انجام دهد و پایش را امضا کند.
۳. مسئولیت شخصی مقام صادرکننده
نکته کمتر دیده‌شده رأی، دو دستور پایانی آن است. نخست، دیوان مقرر کرد که پرونده از نو رسیدگی شود؛ اما نه به‌وسیله همان مقام، بلکه به‌وسیله مقام دیگری هم‌رتبه با او. دوم، اقدام انضباطی علیه نویسنده تصمیم را به صلاحدید مرجع نصب او واگذار کرد؛ بی‌آنکه خود حکمی درباره تخلف او صادر کند. معتقدم این دو دستور پیام روشنی دارند؛ مقامی که تصمیمش را به ماشین سپرده، بی‌طرفی و اعتبار لازم برای رسیدگی دوباره را از دست داده است، و «هوش مصنوعی اشتباه کرد» نیز دفاعی پذیرفتنی برای او نیست. مسئولیت متن تصمیم، با کسی است که آن را امضا کرده است!
۴. از رأی موردی تا مقررات نظام‌مند
دیوان عالی در همین رأی به پیش‌نویس «مقررات استفاده از هوش مصنوعی در دادگاه‌ها، ۲۰۲۶» اشاره کرد که کمیته هوش مصنوعی دیوان در ۱۳ خرداد ۱۴۰۵ (۳ ژوئن ۲۰۲۶) برای نظرخواهی منتشر کرده و هنوز نهایی نشده است. بر اساس تحلیل‌های منتشرشده، این پیش‌نویس نه‌فقط دادگاه‌ها، بلکه دیوان‌ها و کمیسیون‌هایی را که کارکرد قضاوتی دارند نیز در بر می‌گیرد؛ اصل «تقدم انسان» را مبنا قرار می‌دهد؛ صدور نتیجه قضایی صرفاً با تصمیم الگوریتمی را ممنوع می‌کند؛ و بازبینی انسانی خروجی‌ها را الزامی می‌داند. به گزارش یکی از مؤسسات حقوقی هندی، پیش‌نویس حتی استناد به «جعبه سیاه» یا «توهم» ماشین را به‌عنوان دفاع در برابر تصمیم نادرست نمی‌پذیرد. به نظر من ترتیب این دو حرکت آموزنده است؛ رویه قضایی، خطر را نشان داد و مقررات، در حال تبدیل آن به قاعده است. با این حال، باید توجه داشت که مأموران گمرک و مالیات به معنای دقیق «دادگاه» نیستند و روشن نیست این مقررات، پس از تصویب، تا چه حد مستقیماً بر آن‌ها اعمال شود؛ همین خلأ نشان می‌دهد که دستگاه‌های اجرایی به دستورالعمل جداگانه خود نیاز دارند.
۵. ضعف رأی؛ تکلیف افشا کجاست؟
با همه نقاط قوت، به نظر من رأی یک کاستی مهم دارد. دیوان هیچ تکلیفی برای افشای استفاده از هوش مصنوعی در تصمیم‌های اداری مقرر نکرد و دستوری هم به دولت برای تدوین رهنمود صادر نکرد. نتیجه این است که بار کشف خطا همچنان بر دوش شهروند و وکیل اوست؛ در پرونده بمبئی نیز شرکت معترض با نامه از اداره گمرک خواسته بود رونوشت آرای مورد استناد را بدهد و پاسخی نگرفته بود. اگر طرف پرونده امکان یا حوصله بررسی تک‌تک استنادها را نداشته باشد، تصمیمی که روی رویه ساختگی بنا شده، ممکن است قطعی شود و هیچ‌کس متوجه نشود. معتقدم قاعده درست این است که هر مقام تصمیم‌گیر، اگر از ابزار مولد برای نگارش تصمیم استفاده کرده، آن را اعلام کند و منبع هر استناد را قابل‌دسترس بگذارد.
۶. درس‌هایی برای ایران
نخست، اصل ۱۶۶ قانون اساسی مقرر می‌کند که احکام دادگاه‌ها باید مستدل و مستند به مواد قانون و اصولی باشد که بر اساس آن صادر شده‌اند. به نظر من استدلالی که به منبع ناموجود تکیه دارد، به معنای واقعی کلمه «مستند» نیست و همین اصل برای ابطال چنین رأیی کافی است؛ نیازی به انتظار برای قانون تازه نداریم. دوم، در کشور ما بخش بزرگی از تصمیم‌های اثرگذار بر اموال مردم، نه در دادگاه، بلکه در مراجع اداری و شبه‌قضایی گرفته می‌شود؛ از هیئت‌های حل اختلاف مالیاتی تا کمیسیون‌های مختلف و مراجع گمرکی. اعتراض به بسیاری از این تصمیم‌ها به دیوان عدالت اداری می‌رسد و معتقدم دیوان می‌تواند با یک رویه روشن اعلام کند که اتکای تصمیم اداری به منبع ساختگی، فارغ از اثر آن بر نتیجه، موجب نقض است. سوم، تا جایی که بنده اطلاع دارم، هنوز دستورالعمل جامع و منتشرشده‌ای درباره حدود استفاده قضات و مقامات اداری کشور از ابزارهای هوش مصنوعی مولد وجود ندارد؛ پیش‌نویس هند، با اصل تقدم انسان، ممنوعیت تصمیم صرفاً الگوریتمی و الزام بازبینی انسانی، الگوی خوبی برای شروع است. چهارم، وکلای ما باید عادت کنند که در هر پرونده اداری یا قضایی، استنادهای تصمیم مورد اعتراض را راستی‌آزمایی کنند؛ این کار اکنون جزئی از دفاع حرفه‌ای است، نه تشریفات. و پنجم، مسئولیت را نباید به ماشین منتقل کرد؛ امضای پای تصمیم، یعنی پذیرش مسئولیت تک‌تک جمله‌های آن. ماشین می‌تواند کمک کند؛ اما پاسخ‌گو همیشه انسان است!
منابع: متن رأی Vijay Ghanshyam Gadiya v. Union of India، 2026 INSC 947، ۲ سپتامبر ۲۰۲۶ (Verdictum)؛ Bar & Bench، ۲ سپتامبر ۲۰۲۶؛ LiveLaw، ۲ سپتامبر ۲۰۲۶؛ LawChakra درباره قرار دادگاه عالی بمبئی، ۷ نوامبر ۲۰۲۶؛ The Leaflet درباره پیش‌نویس مقررات، ۲۴ ژوئن ۲۰۲۶؛ IndiaLaw LLP، ۱۶ ژوئیه ۲۰۲۶. تصویر: Wikimedia Commons، Subhashish Panigrahi، مجوز CC BY-SA 4.0.
این یادداشت جنبه آموزشی دارد و جایگزین مشاوره حقوقی در پرونده‌های مشخص نیست.
