چالش‌های حقوقی و اخلاقی به کارگیری سلاح‌های خودکار مبتنی بر هوش مصنوعی در میادین نبرد

هسته حقوق و هوش مصنوعی دانشگاه امام صادق(ع) پردیس خواهران با همکاری هسته پژوهشی حقوق و فضای مجازی اقدام به برگزاری نشست‌ هم‌افزایی هسته پژوهشی حقوق و هوش مصنوعی با عنوان چالش سلاح‌های خودکار مبتنی بر هوش مصنوعی نمود.

در این نشست زهرا غلامیان فرد، پژوهشگر حوزه حقوق و هوش مصنوعی بیان کرد: با گسترش کاربرد هوش مصنوعی در حوزه نظامی، نگرانی‌های جدی درباره انطباق این فناوری با اصول حقوق بین‌الملل بشردوستانه مطرح شده است. بر اساس پژوهشی تخصصی در حوزه حقوق، فضای مجازی و هوش مصنوعی، استفاده از سامانه‌های تسلیحاتی خودمختار در جنگ‌های اخیر نظیر اوکراین، غزه و حتی گزارش‌هایی از ایران، نشان می‌دهد که هوش مصنوعی وارد حلقه تصمیم گیری نظامی شده است.

وی در همین راستا افزود: سامانه‌هایی مانند پهپاد انتحاری «کارگو-۲»، سامانه دفاعی «فالانکس»، گنبد آهنین و پروژه «میون» برای تحلیل تصاویر و شناسایی اهداف، نمونه‌هایی از به کارگیری هوش مصنوعی در جنگ هستند. با این حال، چالش اصلی در توانایی الگوریتم‌ها برای رعایت اصول بنیادین حقوق بشردوستانه یعنی تفکیک، تناسب و احتیاط خلاصه می‌شود.

وی در ادامه تصریح نمود: از سوی دیگر، ریسک‌هایی همچون «بتای کشنده»، «سوگیری الگوریتمی»، «توهم هوش مصنوعی» و «بحران انتساب مسئولیت» از دیگر نگرانی‌های مطرح شده در این پژوهش است. همچنین، کنوانسیون CCW با تدوین ۱۱ اصل راهنما و ماده ۳۶ پروتکل اول ژنو، چارچوب هایی برای ارزیابی قانونی تسلیحات جدید ارائه داده اند، اما همچنان خلأهای حقوقی و اخلاقی جدی در زمینه انتساب مسئولیت در قبال اقدامات سامانه‌های خودکار وجود دارد.

پژوهشگر حوزه حقوق و هوش مصنوعی در خاتمه ضمن پاسخ به سوالات حضار خاطرنشان کرد: بدون ایجاد چارچوب‌های حقوقی شفاف، استفاده بی ضابطه از سلاح‌های هوشمند می‌تواند پیامدهای جبران ناپذیری برای امنیت انسانی و صلح جهانی به همراه داشته باشد.