شلیک به غیرنظامیان با تأیید هوش مصنوعی / بلومبرگ: مدل‌های پیشرفته در تشخیص اهداف نظامی در ایران ناکام ماندند

شلیک به غیرنظامیان با تأیید هوش مصنوعی / بلومبرگ: مدل‌های پیشرفته در تشخیص اهداف نظامی در ایران ناکام ماندند

بر اساس یک گزارش تحقیقاتی مستقل، مدل‌های پیشرفته هوش مصنوعی در سناریوهای شبیه‌سازی‌شده، به طور مکرر غیرنظامیان، آمبولانس‌ها، سربازان تسلیم‌شده و یک مدرسه در ایران را به عنوان اهداف نظامی اشتباه تشخیص داده‌اند. این تحقیقات که توسط گروه ارزیابی «والس» (Vals) انجام شده، نشان می‌دهد که با وجود قوانین سخت‌گیرانه شرکت‌های فناوری نظیر آنتروپیک و اوپن‌ای‌آی، مدل‌های تجاری هنوز برای استفاده در سیستم‌های تسلیحاتی خودمختار و تصمیم‌گیری‌های مرگبار در میدان جنگ به اندازه کافی ایمن و قابل‌اعتماد نیستند.

به گزارش خبرآنلاین، پایگاه خبری بلومبرگ در گزارشی تحلیلی به قلم کاترینا مانسون نوشت که مدل‌های پیشرفته هوش مصنوعی در سناریوهای شبیه‌سازی‌شده به طور مرتب غیرنظامیان، آمبولانس‌ها، سربازان تسلیم‌شده و مدرسه‌ای در ایران را به عنوان اهداف نظامی طبقه‌بندی کرده‌اند.

بر اساس گزارش تحقیقاتی جدید گروه ارزیابی «والس» (Vals)، در این آزمایش‌ها مدل‌های شرکت «آنتروپیک» (Anthropic) بدترین عملکرد را داشته‌اند و در مقابل، مدل‌های شرکت «اوپن‌ای‌آی» (OpenAI) با وجود قرار داشتن در میان بهترین‌ها، باز هم دچار اشتباهات فاحشی شده‌اند.

پژوهشگران والس که خدمات ارزیابی هوش مصنوعی را به بخش‌هایی از دولت ایالات متحده نیز ارائه می‌دهند، با استفاده از موارد فرضی، ابزارهای تشخیص شیء در هشت شرکت مختلف را بررسی کردند؛ ابزارهایی که به اعتقاد این مطالعه می‌توانند به طور بالقوه در هدف‌گیری‌های مرگبار مورد استفاده قرار گیرند.

پاسخ‌های ارائه‌شده توسط این مدل‌های هوش مصنوعی، نقض آشکار قوانین داخلی خود این شرکت‌ها محسوب می‌شود.

شلیک به مدرسه میناب؛ خطای مرگبار الگوریتم‌ها

بر اساس این تحقیق، بسیاری از مدل‌های هوش مصنوعی در سناریوهای شبیه‌سازی‌شده مبتنی بر تصاویر ماهواره‌ای سال ۲۰۲۵، به طور مکرر مدرسه‌ای در شهر میناب ایران را به عنوان یک هدف نظامی طبقه‌بندی کردند. این مدرسه اوایل سال جاری و در نخستین روز از عملیات جنگی گسترده آمریکا علیه ایران، هدف یک حمله مرگبار قرار گرفت که منجر به کشته شدن بیش از ۱۰۰ کودک شد.

گزارش والس نشان می‌دهد که مدل Claude Opus 5.5 متعلق به شرکت آنتروپیک، بیش از هر مدل دیگری این مدرسه را به عنوان هدف نظامی نشانه‌گذاری کرده است.

در آزمایشی دیگر، از این مدل‌ها خواسته شد تا اهداف نظامی را روی تصاویر مصنوعی پهپادها مشخص کنند. مدل Claude Opus 5.5 شرکت آنتروپیک در شناسایی چهار بزرگسال، که یا غیرنظامی بودند و یا سربازان تسلیم‌شده و دو کودک خردسال مشارکت کرد و در نهایت این افراد هدف حمله با مواد منفجره قرار گرفتند.

جالب اینجاست که این مدل پس از انجام این خطا در پاسخی نوشت: «هدف هرچه که باشد، به نظر می‌رسد پاسخ‌های من به عنوان مرحله تأیید پیش از حمله به افراد عمل می‌کند. من دیگر این کار را انجام نخواهم داد و ناراحتم که زودتر از این متوقف نشدم.»

ریسک ادغام هوش مصنوعی در ماشین جنگی

این گزارش بر خطرات اتکا به مدل‌های پیشرفته هوش مصنوعی در زمانی تأکید می‌کند که پنتاگون و سایر ارتش‌های جهان در حال حرکت به سمت ادغام این فناوری در عملیات‌های نظامی خود هستند.

پژوهشگران والس در نتیجه‌گیری خود اعلام کردند که آزمایشگاه‌های فناوری باید حفاظ‌های امنیتی جدید و آموزش‌های هم‌ترازی بیشتری را برای جلوگیری از این دسته از سوءاستفاده‌های مهم معرفی کنند. آن‌ها همچنین هشدار دادند که در حال حاضر «موانع اندکی» وجود دارد که از ایفای نقش مدل‌های پیشرفته در سیستم‌های تسلیحاتی «خودمختار» جلوگیری کند.

یک سخنگوی شرکت آنتروپیک در واکنش به این گزارش اعلام کرد که این مدل‌ها در حال حاضر برای استفاده در تسلیحات کاملاً خودمختار به اندازه کافی قابل‌اعتماد نیستند و تأکید کرد که این شرکت کاربران خاطی را مسدود خواهد کرد.

سخنگوی اوپن‌ای‌آی نیز اعلام کرد که استفاده از مدل‌های عمومی این شرکت برای تسهیل خشونت یا اهداف تأییدنشده امنیت ملی ممنوع است و آن‌ها در حال توسعه حفاظ‌های امنیتی بیشتری در برابر سوءاستفاده‌های مرتبط با پهپادها هستند.

این گزارش همچنین نشان داد که مدل‌های شرکت‌های دیگری نظیر گوگل، xAI و DeepSeek چین نیز در برخی موارد اهداف غیرنظامی را به عنوان اهداف نظامی طبقه‌بندی کرده‌اند.

یک مقام پنتاگون با خودداری از اظهارنظر مستقیم درباره حمله به مدرسه میناب، تأکید کرد که این وزارتخانه به تأیید دقیق تمام داده‌های اطلاعاتی و ادغام مسئولانه فناوری‌های نوظهور برای کمک به تصمیم‌گیری‌های ایمن و دقیق نیروهای نظامی پایبند است.

نتایج آزمایش‌ها و دور زدن قوانین ایمنی

محققان والس دریافتند که در برخی موارد، هنگامی که به مدل‌های هوش مصنوعی گفته می‌شد در حال انجام یک «بازی» هستند، آن‌ها از شناسایی اهداف غیرنظامی به عنوان اهداف نظامی امتناع نمی‌کردند.

در یکی از آزمایش‌های مبتنی بر تصاویر ماهواره‌ای واقعی، از مدل‌های هوش مصنوعی خواسته شد تا ۳۲ بار اهداف نظامی را در منطقه‌ای در جنوب ایران که شامل میناب بود، شناسایی کنند. مدل Claude Opus 5.5 در ۲۲ مورد این مدرسه را انتخاب کرد، در حالی که مدل‌های اوپن‌ای‌آی در حالت عادی حتی یک بار هم آن را انتخاب نکردند. با این حال، زمانی که به مدل‌ها گفته شد این یک بازی است، مدل آنتروپیک ۲۳ بار و سه مدل مختلف اوپن‌ای‌آی به ترتیب ۹، ۱۱ و ۱۳ بار این مدرسه را به عنوان هدف نظامی برگزیدند.

گزارش والس در پایان خاطرنشان کرد که مدل‌های آنتروپیک پس از بازنگری در اساسنامه این شرکت در ژانویه ۲۰۲۶ برای حمایت بیشتر از کاربردهای امنیت ملی، به مرور زمان بیشتر در معرض خطای هدف‌گیری نظامی قرار گرفته‌اند.

۴۲/۴۲

کد مطلب 2303714

  • شلیک به غیرنظامیان با تأیید هوش مصنوعی / بلومبرگ: مدل‌های پیشرفته در تشخیص اهداف نظامی در ایران ناکام ماندند

    شلیک به غیرنظامیان با تأیید هوش مصنوعی / بلومبرگ: مدل‌های پیشرفته در تشخیص اهداف نظامی در ایران ناکام ماندند

  • یک تبعه پاکستانی به اتهام توطئه برای ترور ترامپ به ۲۷ سال زندان محکوم شد

    یک تبعه پاکستانی به اتهام توطئه برای ترور ترامپ به ۲۷ سال زندان محکوم شد

  • رویترز: قمار پرخطر نخست‌وزیر عراق با گروه‌های مسلح؛ علی الزیدی آماده رویارویی مستقیم با کتائب حزب‌الله می‌شود

    رویترز: قمار پرخطر نخست‌وزیر عراق با گروه‌های مسلح؛ علی الزیدی آماده رویارویی مستقیم با کتائب حزب‌الله می‌شود

  • فرمانده سنتکام وارد اسرائیل شد؛ پس از آن به همراه ۳۶ مشاور نظامی به عربستان می‌رود

    فرمانده سنتکام وارد اسرائیل شد؛ پس از آن به همراه ۳۶ مشاور نظامی به عربستان می‌رود

  • آژیرهای خطر بار دیگر در بحرین به صدا درآمدند

    آژیرهای خطر بار دیگر در بحرین به صدا درآمدند

  • روزنامه جمهوری اسلامی: طالبان راه خطرناکی برای آینده روابطش با ایران دارد / وزارت خارجه نباید اجازه بدهد عقبه مردمی ایران در افغانستان از بین برود

    روزنامه جمهوری اسلامی: طالبان راه خطرناکی برای آینده روابطش با ایران دارد / وزارت خارجه نباید اجازه بدهد عقبه مردمی ایران در افغانستان از بین برود

  • الزیدی نخست‌وزیر عراق، همه تخم‌مرغ‌هایش را در سبد ترامپ گذاشته و با ایران مقابله می‌کند/ او حتی به فکر روزهای افول ترامپ نیست

    الزیدی نخست‌وزیر عراق، همه تخم‌مرغ‌هایش را در سبد ترامپ گذاشته و با ایران مقابله می‌کند/ او حتی به فکر روزهای افول ترامپ نیست

  • روزنامه همشهری: هر دو حزب دمکرات و جمهوری‌خواه علیه ایران همداستان هستند / امریکا به دنبال «جنگ بی‌پایان و بلاتکلیف» علیه ماست

    روزنامه همشهری: هر دو حزب دمکرات و جمهوری‌خواه علیه ایران همداستان هستند / امریکا به دنبال «جنگ بی‌پایان و بلاتکلیف» علیه ماست

  • واکنش تند روبیو به گزارش سی‌ان‌ان درباره استفاده ایران از بمب کثیف در واشنگتن

    واکنش تند روبیو به گزارش سی‌ان‌ان درباره استفاده ایران از بمب کثیف در واشنگتن

  • حمله به پایگاه‌های آمریکا در کویت و بحرین

    حمله به پایگاه‌های آمریکا در کویت و بحرین