هوش مصنوعی و محرمانگی اطلاعات؛ آیا وارد کردن اطلاعات پرونده در ChatGPT خطر حقوقی دارد؟

فراگیر شدن مدل‌های زبانی بزرگ نظیر ChatGPT و ابزارهای مشابه، شیوه پژوهش و نگارش متون را در تمامی صنایع دگرگون کرده است. در دنیای پرمشغله وکالت و مشاوره حقوقی، وسوسه استفاده از این فناوری‌ها برای خلاصه‌سازی سریع پرونده‌ها، تنظیم پیش‌نویس لوایح، تحلیل ادله یا ترجمه متون قراردادی به‌شدت افزایش یافته است. یک وکیل دادگستری، کارآموز وکالت یا مشاور حقوقی شرکت ممکن است برای صرفه‌جویی در ساعت‌ها کار فرسایشی، صورت‌جلسه یک دعوای داوری یا اسناد مالی موکل را عیناً درون کادر چت هوش مصنوعی الصاق کند تا در عرض چند ثانیه استدلال‌های متقابل یا خلاصه آن را دریافت نماید.

اما این راحتی و سرعت بی‌سابقه، روی دیگری نیز دارد که مستقیماً با هسته بنیادین حرفه حقوق یعنی محرمانگی و امنیت داده‌ها در تعارض قرار می‌گیرد. آیا وارد کردن اوراق قضایی، لوایح و اطلاعات هویتی اشخاص در ابزارهای عمومی هوش مصنوعی از نظر حقوقی و اخلاقی خطرناک است؟ پاسخ کوتاه، شفاف و قاطع است: بله، خطرات قابل ملاحظه و جبران‌ناپذیری دارد. این مقاله با رویکردی موشکافانه، ابعاد فنی و پیامدهای حقوقی به‌کارگیری ابزارهای عمومی هوش مصنوعی در برخورد با داده‌های حساس را بررسی می‌کند تا مرز میان بهره‌وری فناورانه و نقض تکالیف قانونی محرمانگی روشن شود.

چرا اطلاعات پرونده‌های حقوقی حساس هستند؟

ارتباط میان وکیل و موکل بر پایه اعتماد مطلق بنا شده است؛ اعتمادی که در قالب نهاد حقوقی تعهد به حفظ اسرار حرفه‌ای صورت‌بندی قانونی پیدا کرده است. اسناد و ادله‌ای که در جریان یک دعوای حقوقی یا کیفری میان موکل و وکیل ردوبدل می‌شوند، از حساس‌ترین اطلاعات شخصی و تجاری به شمار می‌روند. حساسیت این اطلاعات ناشی از چند بعد کلیدی است:

• تکلیف قانونی و انتظامی به حفظ اسرار: در نظام حقوقی ایران، ماده ۶۴۸ قانون مجازات اسلامی (تعزیرات)، افشای اسرار مردم توسط افرادی که به مناسبت شغل یا حرفه خود محرم اسرار می‌شوند را جرم‌انگاری کرده است. همچنین در مقررات انتظامی وکالت، حفظ اسرار موکل از سوگندهای بنیادین و تکالیف انتظامی وکیل دادگستری است که نقض آن ضمانت‌اجراهای سنگین انتظامی (تا حد ابطال پروانه وکالت) در پی دارد.
• اسرار تجاری و مزیت رقابتی: پرونده‌های شرکت‌های تجاری حاوی اطلاعات قیمت‌گذاری، زنجیره تأمین، صورت‌های مالی، قراردادهای سهام‌داری و اختراعات ثبت‌نشده است. نشت این اطلاعات می‌تواند به ورشکستگی، افت ارزش سهام یا سوءاستفاده رقبا منجر شود.
• حریم خصوصی و شأن اجتماعی افراد: در دعاوی خانوادگی، کیفری یا اختلافات مالی، حساس‌ترین لایه‌های زندگی خصوصی اشخاص در اوراق پرونده ثبت می‌شود. افشای ناخواسته این داده‌ها صدمات جبران‌ناپذیر مادی و معنوی به حیثیت اشخاص وارد می‌سازد.
• اصل محرمانگی در داوری و مذاکرات: در بسیاری از شیوه‌های جایگزین حل اختلاف، مانند داوری‌های تجاری داخلی و بین‌المللی، طرفین با توافق صریح کل فرآیند رسیدگی و اسناد تبادل‌شده را کاملاً محرمانه نگه می‌دارند؛ نقض این اصل می‌تواند روند اجرای رأی داوری را به چالش بکشد.

وقتی اطلاعات را در یک ابزار هوش مصنوعی وارد می‌کنیم چه اتفاقی می‌افتد؟

برای ارزیابی خطر، باید ساختار عملکرد فنی مدل‌های زبانی عمومی را درک کرد. بسیاری از کاربران به‌اشتباه تصور می‌کنند باکس چت ChatGPT مانند یک موتور جست‌وجوی ساده یا یک برنامه پردازش متن آفلاین عمل می‌کند. در حالی که فرآیند پردازش داده در پلتفرم‌های ابری هوش مصنوعی تفاوت ماهوی دارد:

• ارسال به سرورهای ابری: به محض اینکه شما متنی را در ابزار عمومی وارد می‌کنید، اطلاعات به سرورهای مرکزی شرکت توسعه‌دهنده منتقل، رمزگشایی و پردازش می‌شود.
• ذخیره‌سازی و لاگ‌گیری: بخش عمده پلتفرم‌های عمومی، پرسش‌ها و پاسخ‌ها را در پایگاه‌های داده خود ثبت و نگهداری می‌کنند. این لاگ‌ها برای نظارت بر محتوا و ارزیابی رفتاری ذخیره می‌شوند.
• آموزش مجدد مدل: مهم‌ترین زنگ خطر اینجاست که داده‌های ورودی کاربران در نسخه‌های عمومی، مجدداً به عنوان داده‌های آموزشی برای ارتقای نسخه‌های بعدی مدل به کار گرفته می‌شوند. اگر یک شکواییه یا بند محرمانه قرارداد را وارد کنید، این متن تبدیل به برداری از اعداد درون شبکه عصبی مدل می‌شود. این احتمال فنی وجود دارد که در آینده، هوش مصنوعی در پاسخ به پرسش فردی دیگر در گوشه‌ای دیگر از جهان، بخش‌هایی از آن اطلاعات را بازتولید یا افشا کند (پدیده‌ای موسوم به Data Extraction Attack).
• دسترسی کارشناسان انسانی: شرکت‌های ارائه‌دهنده برای نظارت بر کیفیت و تنظیم مدل، مکانیزم «بازخورد انسانی» دارند. این یعنی کارکنان یا پیمانکاران ثالث آن شرکت‌ها ممکن است محتوای چت‌های شما را بخوانند و بررسی کنند.

چه اطلاعاتی نباید بدون بررسی شرایط در ابزارهای عمومی وارد شوند؟

برای ایمن‌سازی فرآیند پژوهش، تفکیک داده‌های عمومی از داده‌های غیرقابل‌انتشار ضروری است. اقلام اطلاعاتی زیر به هیچ عنوان نباید در پلتفرم‌های عمومی وارد شوند:

• اطلاعات هویتی: نام و نام خانوادگی، کد ملی، شماره شناسنامه، تاریخ تولد، آدرس محل سکونت، شماره تلفن و پیوندهای خانوادگی اصحاب دعوا، شهود یا مطلعین.
• اطلاعات مالی: شماره حساب‌ها، صورت‌های مالی حسابرسی‌نشده، اسناد پرداخت، قراردادهای تسهیلاتی، جزئیات حساب‌های بانکی و اظهارنامه‌های مالیاتی محرمانه.
• جزئیات پرونده: کلاسه پرونده، شماره بایگانی شعبه، نام شعبه رسیدگی‌کننده، نام قضات یا داوران، و لوایحی که هنوز به دادگاه تقدیم نشده‌اند و استراتژی دفاعی وکیل را مشخص می‌کنند.
• اسناد محرمانه و اختصاصی: قراردادهای عدم افشا، کدهای منبع نرم‌افزاری، فرمول‌های تولید، صورت‌جلسات هیئت‌مدیره و استراتژی‌های ورود به بازار.
• اطلاعات اشخاص ثالث: اطلاعات مربوط به طرف مقابل دعوا، شهود، کارشناسان رسمی یا شرکای تجاری موکل که رضایتی برای پردازش داده‌های خود در ابزارهای هوش مصنوعی اعلام نکرده‌اند.

ریسک‌های احتمالی استفاده از ابزارهای عمومی هوش مصنوعی

استفاده ناآگاهانه از سرویس‌های پردازش متن عمومی، شخص یا موسسه حقوقی را با پیامدهای اساسی روبه‌رو می‌سازد:

• نقض تعهدات قراردادی و قوانین حریم خصوصی: چنانچه در قرارداد مشاوره یا وکالت، بند عدم افشای اطلاعات امضا شده باشد، آپلود کردن اسناد در هوش مصنوعی نقض صریح قرارداد محسوب می‌شود. در سطح بین‌المللی نیز نقض مقررات سرسختانه‌ای مانند مقررات عمومی حفاظت از داده‌های اتحادیه اروپا (GDPR – General Data Protection Regulation) می‌تواند به جریمه‌های مالی میلیون یورویی منجر شود. نهادهای ناظر بین‌المللی بارها درباره انتقال غیرمجاز داده‌های شخصی به سرورهای مدل‌های زبانی هشدار داده‌اند.
• افشای استراتژی دفاعی و سوءاستفاده طرف مقابل: اگر جزئیات یک پرونده با استفاده از پرامپت‌های عمومی نگارش شود، علاوه بر احتمال نشت، امنیت استراتژی حفظ نمی‌شود. در موارد متعددی، ضعف‌های امنیتی پلتفرم‌های ابری منجر به مشاهده تاریخچه چت یک کاربر توسط کاربران دیگر شده است؛ رخ‌دادی که می‌تواند برگ برنده پرونده را پیش از جلسه دادرسی به دست حریف بسپارد.
• مسئولیت مدنی و انتظامی وکیل: در صورت احراز اینکه نشت اطلاعات و تضرر موکل ناشی از وارد کردن داده‌ها به سامانه‌های ناامن ابری توسط وکیل یا کادر دفتر وکالت بوده است، وکیل با مسئولیت مدنی جبران خسارت، و از آن خطرناک‌تر، تعقیب انتظامی در کانون وکلا یا مرکز وکلا مواجه خواهد شد.

تفاوت ابزار عمومی هوش مصنوعی با سیستم‌های طراحی‌شده برای کاربردهای تخصصی

در نگاه نخست، ممکن است چنین به نظر برسد که تخصصی‌بودن یک ابزار هوش مصنوعی به‌تنهایی به معنای امن‌بودن آن است؛ اما در عمل، امنیت و محرمانگی داده‌ها به عواملی مانند تعهدات قراردادی ارائه‌دهنده، نحوه پردازش و نگهداری داده‌ها، کنترل‌های دسترسی، معماری امنیتی و نتایج ممیزی‌های مستقل بستگی دارد. برخی سامانه‌های تخصصی مورد استفاده در حوزه حقوق، مانند Harvey، برای مشتریان سازمانی تعهدات و کنترل‌های مشخصی درباره نحوه استفاده و حفاظت از داده‌های کاربران ارائه می‌کنند. بنابراین، هنگام انتخاب چنین سامانه‌هایی باید به‌جای اتکا به عنوان «هوش مصنوعی تخصصی»، شرایط خدمات، سیاست‌های حفظ حریم خصوصی و سازوکارهای امنیتی آن‌ها به‌دقت بررسی شود.

در ایران، ارزیابی امنیتی سامانه‌های هوش مصنوعی با چالش‌های بیشتری همراه است. محدودیت‌های دسترسی به برخی زیرساخت‌ها و خدمات بین‌المللی، چالش‌های فنی و زیرساختی و همچنین نبود چارچوب جامع و یکپارچه برای ارزیابی مستقل امنیت و محرمانگی سامانه‌های هوش مصنوعی، ضرورت بررسی دقیق ادعاهای امنیتی ارائه‌دهندگان را بیشتر می‌کند. ازاین‌رو، تا زمانی که سازوکارهای روشن و قابل اتکایی برای ارزیابی و نظارت بر این سامانه‌ها وجود داشته باشد، رویکرد محتاطانه برای جامعه حقوقی آن است که امنیت و محرمانگی را صرفاً بر اساس ادعاهای ارائه‌دهنده فرض نکند و اصول عمومی حفاظت از اطلاعات و اسرار حرفه‌ای را در استفاده از هر ابزار هوش مصنوعی رعایت کند.

نکات مهم قبل از وارد کردن اطلاعات حقوقی در هوش مصنوعی

اگر در فرآیند نگارش، پژوهش یا ایده‌پردازی از ابزارهای هوش مصنوعی استفاده می‌کنید، پیش از وارد کردن اطلاعات حقوقی بهتر است چهار اصل زیر را رعایت کنید:

• گمنام‌سازی و حذف اطلاعات شناسایی‌کننده: پیش از وارد کردن متن، اطلاعات هویتی و سایر داده‌هایی را که می‌توانند به شناسایی اشخاص یا پرونده منجر شوند حذف یا جایگزین کنید. برای مثال، می‌توان نام افراد را با عباراتی مانند «آقای الف» و «شرکت ب» جایگزین کرد و اطلاعاتی مانند شماره تلفن، کد ملی، نشانی، شماره حساب و سایر مشخصات غیرضروری را حذف کرد. گمنام‌سازی نباید فقط به حذف نام محدود شود؛ ترکیب تاریخ‌ها، مبالغ، سمت اشخاص، نام شرکت‌ها و سایر جزئیات منحصربه‌فرد نیز ممکن است امکان شناسایی مجدد افراد یا پرونده را فراهم کند.
• بررسی تنظیمات حریم خصوصی و استفاده از داده‌ها: پیش از استفاده از هر سرویس، بررسی کنید اطلاعات ورودی چگونه پردازش و نگهداری می‌شوند و آیا برای بهبود یا آموزش مدل مورد استفاده قرار می‌گیرند یا خیر. در صورت وجود گزینه‌هایی برای کنترل استفاده از داده‌ها یا غیرفعال‌کردن استفاده از محتوای ورودی برای آموزش مدل، تنظیمات متناسب با سطح محرمانگی اطلاعات را فعال کنید. توجه داشته باشید که وجود یا نحوه عملکرد این گزینه‌ها در سرویس‌ها و انواع حساب‌های مختلف یکسان نیست.
• استفاده از حداقل اطلاعات لازم: برای دریافت کمک از هوش مصنوعی، لزوماً نیازی به وارد کردن کل یک قرارداد ۳۰ صفحه‌ای یا تمام اوراق یک پرونده نیست. تا حد امکان فقط بخش موردنیاز را، پس از حذف اطلاعات غیرضروری، در اختیار ابزار قرار دهید. برای مثال، اگر هدف بررسی نگارشی یک بند قرارداد است، همان بند و اطلاعات ضروری مرتبط با آن کفایت می‌کند.
• مطالعه دقیق شرایط خدمات و سیاست حریم خصوصی: پیش از استفاده حرفه‌ای از هر پلتفرم، شرایط خدمات و سیاست حفظ حریم خصوصی آن را بررسی کنید تا مشخص شود داده‌ها چگونه پردازش می‌شوند، چه مدت نگهداری می‌شوند، برای چه اهدافی مورد استفاده قرار می‌گیرند و آیا ممکن است در اختیار اشخاص یا ارائه‌دهندگان خدمات دیگر قرار گیرند یا خیر.

نقش نظارت انسانی در استفاده از هوش مصنوعی در امور حقوقی

هوش مصنوعی صرفاً یک ابزار محاسباتی پیشرفته برای پردازش زبان است، نه یک ذهن حقوقی هوشیار. یکی از بزرگ‌ترین خطرات اتکا به هوش مصنوعی در کنار نقض محرمانگی، پدیده توهم هوش مصنوعی (Hallucination) است؛ پدیده‌ای که طی آن الگوریتم ممکن است مواد قانونی منسوخ، احکام ساختگی یا تفاسیر غلط حقوقی را با اعتمادبه‌نفس بالا ارائه دهد.

برای مطالعه بیشتر درباره اینکه مدل‌های پردازشی دقیقاً چه کارکردهایی در فرآیند وکالت دارند و چرا بدون دخالت عقل و تجربه بشری کارایی ندارند، می‌توان به مقاله تفصیلی آیا هوش مصنوعی حقوقی می‌تواند جای وکیل را بگیرد؟ مراجعه‌ کرد و با کاربردهای واقعی و حد و مرز ابزارهای هوشمند در وکالت آشنا شد. نظارت مستمر وکیل، ارزیابی تک‌تک کلمات خروجی، تطبیق مستندات با متون معتبر قوانین، و پذیرش مسئولیت اخلاقی و قانونی، وظیفه‌ای است که هیچ ابزار فناورانه‌ای توان بر عهده گرفتن آن را ندارد.

جمع‌بندی

هوش مصنوعی یک اهرم کمکی فوق‌العاده برای ارتقای بهره‌وری پژوهش‌های حقوقی است، اما سهل‌انگاری در نحوه استفاده از آن می‌تواند به بهای سنگین نقض اسرار حرفه‌ای موکل، خسارات جبران‌ناپذیر تجاری و مسئولیت‌های قانونی و انتظامی تمام شود. برای حفظ شأن و امنیت حرفه‌ای، هرگز اطلاعات هویتی، اسناد اختصاصی و جزئیات پرونده‌ها را در ابزارهای عمومی هوش مصنوعی وارد نکنید؛ داده‌ها را دقیقاً گمنام‌سازی نمایید و برای امور حساس، همواره به سراغ سامانه‌های حقوقی تخصصی با تضمین‌های امنیتی معتبر بروید. در نهایت، همواره به یاد داشته باشیم که در قضاوت و وکالت، اعتماد و محرمانگی کالایی غیرقابل‌معامله است.