خطورة استخدام ChatGPT والذكاء الاصطناعي

خطورة استخدام ChatGPT والذكاء الاصطناعي
في تحرير الردود على الدعاوى والمذكرات القضائية

عندما تتحول الأداة إلى خصمك أمام المحكمة

لم يكن يتوقع أحد أن تصبح إحدى أشهر القضايا المرتبطة بالذكاء الاصطناعي في المجال القانوني، قضيةً لم يخسر فيها المحاميان بسبب ضعف دفوعهما، وإنما بسبب الاعتماد على أحكام قضائية لم تكن موجودة أصلاً.

ففي عام 2023، تقدم محاميان أمام محكمة اتحادية في الولايات المتحدة بمذكرة قانونية تضمنت عدداً من السوابق القضائية دعماً لدفوع موكلهما. وبدا الأمر للوهلة الأولى طبيعياً، إلى أن طلبت المحكمة الاطلاع على تلك السوابق، ليتبين أنها مختلقة بالكامل، وأن مصدرها كان برنامج ChatGPT الذي استخدمه أحد المحامين في إعداد المذكرة دون التحقق من صحة مخرجاته.

ولم تقف المحكمة عند مجرد تصحيح الخطأ، بل فرضت جزاءات على المحاميين، مؤكدة أن المسؤولية المهنية عن صحة ما يقدم للمحكمة تقع على عاتق المحامي، لا على البرنامج الذي استعان به.

قد يظن البعض أن هذه الحادثة تخص النظام القضائي الأمريكي وحده، إلا أن الرسالة التي حملتها تتجاوز حدود أي نظام قانوني؛ فالذكاء الاصطناعي، مهما بلغت قدراته، لا يتحمل مسؤولية قانونية، ولا يملك أهلية التحقق من الوقائع أو النصوص، ولا يمكن أن يكون بديلاً عن المحامي أو المستشار القانوني.

بين سرعة الإنجاز ودقة المرافعة

لا خلاف اليوم على أن أدوات الذكاء الاصطناعي أحدثت تحولاً كبيراً في طريقة إنجاز الأعمال القانونية ففي ثوانٍ معدودة يمكنها تلخيص ملف كامل، أو إعادة صياغة مذكرة، أو اقتراح دفوع قانونية، أو تنظيم الوقائع بأسلوب احترافي.

غير أن المشكلة لا تكمن في استخدام هذه الأدوات، وإنما في الاعتماد عليها.

فالفرق كبير بين أن تكون أداة تساعد المحامي، وأن تتحول إلى مصدر وحيد لصياغة المذكرات أو الردود القضائية.

فالمرافعة القضائية ليست اختباراً في جودة اللغة، وإنما هي بناء قانوني متكامل يقوم على فهم الوقائع، وتكييفها، وربطها بالنصوص النظامية، وتحليل الأدلة، واختيار الاستراتيجية التي تحقق مصلحة الموكل.

الذكاء الاصطناعي لا يعرف ما لم تخبره به

يبني ChatGPT تحليله على المعلومات التي يقدمها المستخدم.

فإذا كانت الوقائع ناقصة، أو عرضت بصورة غير دقيقة، أو أغفل المستخدم مستنداً مؤثراً، فإن النموذج سيقدم تحليلاً مبنياً على بيانات غير مكتملة.

وهنا تكمن الخطورة؛ لأن الإجابة قد تبدو منطقية ومقنعة، بينما تكون قائمة على افتراضات خاطئة.

وفي العمل القضائي، قد تكون واقعة واحدة لم تُذكر سبباً في سقوط دعوى كاملة أو ضياع دفع جوهري.

خطر “الهلوسة” القانونية

من أبرز التحديات المعروفة في النماذج اللغوية ما يعرف بـ الهلوسة (Hallucination)، وهي إنتاج معلومات تبدو صحيحة، لكنها في الواقع غير موجودة.

وفي المجال القانوني قد يظهر ذلك في صور متعددة، منها:

* الاستشهاد بنص نظامي غير موجود.
* نسبة مادة إلى نظام لا تتضمنها أحكامه.
* الإشارة إلى تعديل لم يدخل حيز النفاذ.
* الخلط بين أنظمة دول مختلفة.
* اختلاق سوابق أو أحكام قضائية.

والأخطر من ذلك أن صياغة هذه المعلومات تكون غالباً واثقة ومقنعة، مما قد يدفع غير المختص إلى التسليم بصحتها دون تحقق.

صياغة المذكرات ليست مجرد كتابة

قد يكتب الذكاء الاصطناعي مذكرة تبدو احترافية، لكنه لا يعرف:

* ما الوقائع التي ينبغي التركيز عليها.
* وما الوقائع التي قد يضر إثارتها بمصلحة الموكل.
* ومتى يثار الدفع الشكلي.
* ومتى يكون الدفع الموضوعي أولى.
* وهل من الأفضل الدفع بعدم القبول أو الدخول في أصل النزاع.
* وهل من المناسب التمسك ببعض الدفوع أو العدول عنها.

فهذه القرارات ليست لغوية، وإنما استراتيجية، وتعتمد على الخبرة المهنية، وفهم طبيعة النزاع، وتقدير المخاطر.

كلمة واحدة قد تغير نتيجة الدعوى

ليست كل عبارة قانونية تصلح لكل قضية.

فقد يقترح الذكاء الاصطناعي صياغة تتضمن:

* إقراراً ضمنياً بواقعة محل نزاع.
* تنازلاً غير مقصود عن دفع نظامي.
* اعترافاً بصحة مستند كان محل طعن.
* تضييقاً لنطاق النزاع بما يضر بمصلحة الموكل.

وفي القضاء، قد تكون كلمة واحدة كافية لتغيير مسار القضية.

ماذا عن الإثبات؟

الحق المجرد لا يكفي.

فالحق الذي لا يثبت أمام القضاء يظل مجرد ادعاء.

وقد ينتج الذكاء الاصطناعي مذكرة قوية من الناحية اللغوية، لكنه لا يلتفت إلى أن الواقعة الأساسية تفتقر إلى دليل، أو أن عبء الإثبات يقع على الطرف المتمسك بها، أو أن وسيلة الإثبات المختارة غير مناسبة.

ولهذا فإن نجاح المرافعة لا يعتمد على جودة الصياغة وحدها، بل على قوة الدليل أيضاً.

أخطاء شائعة يقع فيها بعض الممارسين

من أكثر الأخطاء التي بدأت تظهر مع انتشار أدوات الذكاء الاصطناعي:

* نسخ المخرجات كما هي دون مراجعة.
* عدم التحقق من النصوص النظامية أو السوابق القضائية.
* سؤال الذكاء الاصطناعي بصورة عامة دون تزويده بجميع الوقائع.
* الاعتماد على المخرجات في تحديد الاستراتيجية القانونية.
* إدخال بيانات العملاء أو المستندات السرية في منصات الذكاء الاصطناعي دون مراعاة السرية والخصوصية.

وهذه الممارسات لا تقلل فقط من جودة العمل، بل قد تعرض صاحبها لمساءلة مهنية إذا ترتب عليها ضرر.

الاستخدام الصحيح للذكاء الاصطناعي

الذكاء الاصطناعي ليس خصماً للمحامي، بل يمكن أن يكون من أفضل أدواته إذا استُخدم في موضعه الصحيح.

فهو مناسب في:

* تلخيص المستندات.
* ترتيب الوقائع زمنياً.
* مراجعة الصياغة اللغوية.
* إعادة تنظيم الأفكار.
* إعداد مسودة أولية للمذكرة.
* اقتراح محاور للنقاش أو البحث.

أما التحقق من النصوص، وتقييم الأدلة، وبناء الدفوع، واختيار الاستراتيجية، وصياغة المذكرة النهائية، فهي مسؤولية لا تزال تقع على عاتق المحامي أو المستشار القانوني.

خاتمة

لا يكمن الخطر في استخدام ChatGPT أو غيره من أدوات الذكاء الاصطناعي، وإنما في الثقة العمياء بمخرجاته.

فالذكاء الاصطناعي يكتب بسرعة، لكنه لا يتحمل مسؤولية ما يكتب.

ويحلل، لكنه لا يدرك جميع ملابسات النزاع.

ويقترح، لكنه لا يوازن بين المكاسب والمخاطر.

ولهذا فإن الممارس القانوني الناجح هو من يجعل الذكاء الاصطناعي مساعداً يزيد من كفاءة عمله، لا بديلاً عن خبرته، ولا مرجعاً يغنيه عن التحقق، ولا مستشاراً يفوض إليه اتخاذ القرار.

لقد أثبتت الواقعة الأمريكية الشهيرة أن الخطأ لم يكن في وجود الذكاء الاصطناعي، وإنما في التخلي عن الدور الذي لا يزال الإنسان وحده قادراً على القيام به: التحقق، والتقدير، وتحمل المسؤولية.