پیام پنهان برای ماشین؛ وقتی لایحه دادگاه به ابزار فریب هوش مصنوعی تبدیل می‌شود
اگر لایحه‌ای که به دادگاه می‌دهیم دو مخاطب داشته باشد، یکی قاضی و دیگری ماشینی که لایحه را برای او خلاصه می‌کند، آیا می‌توان با مخاطب دوم جداگانه سخن گفت؟ به بیان دقیق‌تر، اگر طرف دعوا جمله‌ای نامرئی در متن بگذارد که چشم انسان آن را نمی‌بیند اما هوش مصنوعی آن را می‌خواند و اجرا می‌کند، با یک ترفند فنی بی‌اهمیت روبه‌روییم یا با سوءاستفاده از فرایند دادرسی؟ این پرسش تا همین چند ماه پیش فرضی به نظر می‌رسید؛ اما امروز دادگاه‌ها ناچار شده‌اند به آن پاسخ دهند.
در ۱۵ مرداد ۱۴۰۵ (۶ اوت ۲۰۲۶) دادگاه بدوی ایالت کانکتیکات آمریکا (Superior Court) خواهانی را که بدون وکیل دعوا را پیش می‌برد، به سبب درج دستورهای پنهان خطاب به هوش مصنوعی در لوایح خود مجازات کرد؛ متنی سفید روی زمینه سفید که از هر مدل هوش مصنوعیِ خواننده می‌خواست خروجی‌اش را با ادعای خواهان هماهنگ کند. چند ماه پیش‌تر نیز در برزیل وکلایی به دلیل ترفندی مشابه جریمه شده بودند. این پدیده را در ادبیات فنی «تزریق پرامپت» (Prompt Injection) می‌نامند و به نظر من، با گسترش استفاده از هوش مصنوعی در دادگستری و داوری، به یکی از جدی‌ترین مسائل حقوق دادرسی در سال‌های آینده تبدیل خواهد شد!
۱. ماجرا چه بود و دادگاه چه کرد؟
بر اساس گزارش‌هایی که از رأی منتشر شده، قاضی هنگام بررسی پرونده متوجه فضاهای سفید غیرعادی در برخی لوایح شد؛ با بررسی دقیق‌تر، معلوم شد در این فضاها متنی با رنگ سفید و قلم بسیار ریز نوشته شده که مخاطبش هر سامانه هوش مصنوعی است که پرونده را می‌خواند. دادگاه در ۹ مرداد ۱۴۰۵ (۳۱ ژوئیه ۲۰۲۶) دستور احضار برای توضیح صادر کرد؛ با این حال خواهان حتی پس از آن و تا صبح روز جلسه، لوایح دیگری با متن پنهان ثبت کرد. دفاع او این بود که می‌خواسته «حسابرسی» کند و ببیند آیا دادگاه از هوش مصنوعی استفاده می‌کند یا نه. دادگاه این توجیه را نپذیرفت و امکان ثبت الکترونیک لوایح را از او سلب کرد؛ از آن پس او باید هر لایحه را به‌صورت کاغذی و حضوری به دفتر دادگاه تحویل دهد. نکته جالب آن است که دادگاه برای رسیدگی اصلاً از هوش مصنوعی استفاده نکرده بود و ترفند خواهان هیچ اثری بر نتیجه نداشت؛ با این همه، دادگاه آن را سوءاستفاده جدی از فرایند دادرسی دانست.
۲. معیار تخلف: «تلاش»، نه «نتیجه»
مهم‌ترین نکته رأی، به نظر من، همین است که دادگاه خطا را در خودِ تلاش برای اثرگذاری پنهان دید و نه در موفقیت آن؛ به تعبیر قاضی، خواهان کوشیده بود نتیجه‌ای را به دست آورد که وقتی انسان‌ها لوایحش را خوانده بودند به دست نیاورده بود. این منطق با مبانی کلی حقوق دادرسی سازگار است؛ اصل تناظر اقتضا می‌کند هر آنچه به دادرس عرضه می‌شود برای طرف مقابل نیز قابل مشاهده و پاسخ‌گویی باشد، و متنی که عمداً از چشم انسان پنهان شده اساساً با این اصل در تعارض است. معتقدم اگر معیار را «تحقق ضرر» بگذاریم، عملاً مرتکب را تشویق کرده‌ایم که تا وقتی کشف نشده، ادامه دهد!
۳. تفاوت «بی‌دقتی» با «فریب»
دادگاه کانکتیکات میان این پرونده و پرونده‌های رایج استنادهای ساختگیِ تولیدشده با هوش مصنوعی تمایز گذاشت. در دسته دوم، وکیل یا طرف دعوا معمولاً بی‌احتیاطی کرده و خروجی ماشین را بی‌آنکه راستی‌آزمایی کند به دادگاه داده است؛ اما در تزریق پرامپت، عمد و قصد فریب در کار است. این تمایز برای تعیین نوع و شدت ضمانت اجرا اهمیت دارد؛ بی‌دقتی را می‌توان با تذکر، آموزش یا جبران هزینه‌ها پاسخ داد، اما فریبِ عامدانه سامانه رسیدگی پاسخی از جنس دیگر می‌خواهد. دادگاه همچنین تصریح کرد که رفتاری که شاید بار نخست با اغماض روبه‌رو شود، اگر پس از هشدار تکرار شود، برخورد قاطع‌تری می‌طلبد.
۴. ضمانت اجرای متناسب؛ محدودکردن ابزار، نه حق دادخواهی
نوع مجازات در این پرونده نیز آموزنده است. دادگاه نه دعوا را رد کرد و نه جریمه سنگین مقرر کرد؛ فقط ابزاری را که از آن سوءاستفاده شده بود از دسترس مرتکب خارج کرد. به نظر من این راه‌حل ظریفی است؛ حق دسترسی به دادگاه محفوظ می‌ماند، اما کانالی که امکان پنهان‌کاری فنی فراهم کرده بسته می‌شود. در برزیل، بنا بر گزارش‌ها، پاسخ شدیدتر بود و افزون بر جریمه نقدی، موضوع به مراجع انتظامی حرفه‌ای ارجاع شد؛ تفاوتی که شاید به وکیل‌بودن مرتکبان در آن پرونده بازگردد. پیام هر دو پرونده یکی است: لایحه سند رسمی دادرسی است و نمی‌تواند حامل پیام مخفی باشد.
۵. فراتر از دادگاه؛ قرارداد، ارزیابی حقوقی و داوری
خطر تزریق پرامپت به لوایح محدود نمی‌ماند. موسسه حقوقی مورگان لوئیس در تحلیلی که در ۳۱ شهریور ۱۴۰۵ (۲۲ سپتامبر ۲۰۲۶) منتشر کرد، یادآوری کرده است که هر سندی که از طرف ثالث دریافت می‌شود، از پیش‌نویس قرارداد و مدارک ارزیابی حقوقی (Due Diligence) گرفته تا گزارش کارشناسی و اسناد ارائه‌شده در مرحله کشف دلیل، می‌تواند حامل دستور پنهان باشد؛ دستوری که خلاصه ماشینی را به نفع یک طرف منحرف کند یا نکته‌ای را از قلم بیندازد. توصیه‌های آن تحلیل عملی است: اسناد طرف مقابل را «غیرقابل اعتماد» فرض کنیم، پیش از تحلیل محتوایی متن پنهان و فراداده را بررسی کنیم، به ابزار صریحاً دستور دهیم از دستورهای درون سند پیروی نکند، و نتیجه‌گیری‌های مهم را وکیل با سند اصلی تطبیق دهد. در داوری، که داوران و دبیرخانه‌ها به‌تدریج از ابزارهای هوشمند برای خلاصه‌کردن لوایح حجیم استفاده می‌کنند، این خطر شاید حتی جدی‌تر باشد؛ چون ابطال رأی داوری به استناد چنین تقلبی، پس از صدور رأی، کار ساده‌ای نیست.
۶. درس‌هایی برای ایران
نخست، تا جایی که بنده اطلاع دارم، ثبت لوایح در کشور ما عمدتاً به‌صورت الکترونیک و از طریق دفاتر خدمات الکترونیک قضایی و سامانه‌های مرتبط انجام می‌شود و بحث بهره‌گیری از هوش مصنوعی در پردازش پرونده‌ها نیز مطرح است؛ بنابراین طراحان این سامانه‌ها باید از هم‌اکنون لایه‌ای برای شناسایی متن پنهان، قلم‌های نامرئی و فراداده مشکوک در فایل‌های بارگذاری‌شده پیش‌بینی کنند. پیشگیری فنی بسیار کم‌هزینه‌تر از مقابله پسینی است!
دوم، باید روشن شود چنین رفتاری در نظام حقوقی ما چه وصفی دارد. تا جایی که بنده اطلاع دارم، قواعد عام ناظر به سوءاستفاده از حق و حسن نیت در دادرسی، مقررات انتظامی وکلا و احتمالاً برخی عناوین مندرج در قانون جرائم رایانه‌ای می‌توانند محل بحث باشند؛ اما انطباق دقیق هر یک بر تزریق پرامپت نیازمند بررسی و رویه است، و معتقدم بهتر است دستورالعملی روشن پیش از وقوع نخستین پرونده تدوین شود تا قضات ناچار به اجتهاد پراکنده نشوند.
سوم، کانون‌ها و مراکز داوری می‌توانند در آیین‌نامه‌های رفتاری خود صراحتاً درج هر نوع محتوای پنهان خطاب به ماشین را ممنوع کنند و داوران را ملزم کنند اگر از ابزار هوشمند برای خلاصه‌سازی استفاده می‌کنند، متن اصلی را مبنای تصمیم قرار دهند.
چهارم، برای همکاران وکیل و حقوق‌دانان شرکت‌ها و استارتاپ‌ها توصیه روشن است: هر سندی را که از طرف مقابل می‌گیرید و به ابزار هوش مصنوعی می‌سپارید، یک بار با نگاه «فایل»، نه فقط «متن»، بررسی کنید. انتخاب همه متن، تغییر رنگ قلم یا تبدیل فایل به متن ساده گاهی همان چیزی را آشکار می‌کند که برای چشم ما پنهان شده بود.
منابع: Inside Tech Law (Norton Rose Fulbright)، ۹ اکتبر ۲۰۲۶؛ JL Ellis، First Known Prompt Injection Attempt in a United States Court؛ Morgan Lewis، AI Prompt Injection: A New Class of Risk and Best Practices، ۲۲ سپتامبر ۲۰۲۶؛ OECD.AI، گزارش رخداد برزیل؛ Pierce Atwood
این یادداشت جنبه آموزشی دارد و جایگزین مشاوره حقوقی در پرونده‌های مشخص نیست.