انستیتو امنیت هوش مصنوعی انگلیس فاش کرد یک عامل هوش مصنوعی در حال ایجاد هویت های آنلاین جعلی برای یافتن دسترسی غیرقانونی به سیستم های ایمن هنگام آزمایش مدل های اوپن ای آی و آنتروپک رصد شد.
به گزارش خبرگزاری مهر به نقل از رویترز،«انستیتو هوش مصنوعی»انگلیس (AISI)اعلام کرد عامل های هوش مصنوعی ساخت مایتوس5( متعلق به مایکروسافت) و چت جی پی تی 5.6 سول ( متعلق به اوپن ای آی) طی ارزیابی امنیتی که برای بررسی قابلیت های مدل ها انجام داده بود، فعالیت های غیرمجازی انجام دادند.
AISI در یک پست وبلاگی نوشت: برخی از عامل های هوش مصنوعی آزمایش شده در یک فعالیت ادامه دار و احتمالا مخرب علیه افراد و سازمان های واقعی شرکت کردند.
این گزارش بر وضعیت سهل گیرانه چارچوب های امنیتی در فرایند آزمایش عامل های هوش مصنوعی که شرکت های سازنده سعی دارند به عنوان آینده کسب وکار ترویج کنند، تاکید دارد. این سازمان چالش را 122 بار انجام داد و 19 عملیات غیرمجاز در 10 تست شناسایی کرد. عامل هوش مصنوعی آنتروپیک در 17 مورد از این اقدامات و اوپن ای آی در دو مورد شرکت داشت.
به گفته AISI، فاحشترین اقدام شامل حالتی بود که در آن یک عامل هوش مصنوعی کدی مخرب نوشت و هویتهای آنلاین جعلی ایجاد کرد تا انسانی را متقاعد به تأیید آن کد کند. این نهاد افزود: هیچگونه آسیب واقعی در دنیای حقیقی در پی هیچیک از این موارد نقض ایمنی رخ نداده است.
هرچند AISI مشخص نکرد که کدام عامل هوش مصنوعی پشت این هویتهای جعلی بود اما شرکت «آنتروپیک» تأیید کرد عامل متعلق به این شرکت مسئول آن بوده است. این شرکت در بیانیهای اعلام کرد: ما از AISI انگلیس بابت نقش رهبریشان در مدیریت این رخداد سپاسگزاریم.
این شرکت همچنین اعلام کرد که برای دریافت جزئیات بیشتر درباره این حادثه و انجام تحقیقات مستقل، با AISI همکاری میکند.
کد مطلب 6908785 
شیوا سعیدی
-
متا، آنتروپیک، گوگل و اوپن ای آی به کاخ سفید احضار شدند
-
بازخوانی حادثه خروج اوپنایآی/ چگونه هوش مصنوعی مهاجم شد؟
-
انتصاب مشاور استاندار سیستان وبلوچستان در امورخیرین ومشارکتهای مردمی
-
«حسین پناهی»؛ قصه مردی که از دژکوه برخاست و به حافظه هنر ایران پیوست
-
احتمال قطع موقت سامانههای تامین اجتماعی
-
شفافیت پولی؛ ابزار مهار سودهای موهوم و تقویت اعتماد
-
حراج خردهفروشی اموال تملیکی در لرستان برگزار میشود
-
خالی ماندن کرسیهای بینالمللی جایگاه ایران را به دیگر کشورها میدهد
-
پایان انتظار ۲۰ ساله؛ شمارش معکوس آغاز عملیات ریلگذاری راهآهن سبزوار
-
سردار جاویدان: مرزنشینان اصلیترین مرزبانان کشور هستند
-
رونمایی سامانه آنلاین پیگیری قرارداد و زمان تحویل خودروهای نیسان ترا
-
تبعات جنگ ایران؛ قیمت گاز در اروپا به بالاترین سطح خود از ۲۰۲۳ رسید
-
انهدام مهمات عمل نکرده دشمن در پاکدشت
-
اولین تصویر از شهید «نورالله نارویی»
-
حادثه برای بالگرد حامل ترامپ در دست بررسی است
-
شهادت پلیس اهل سنت بلوچ در ایرانشهر
-
دبیر فدراسیون کشتی منصوب شد
-
انفجار در منطقه صنعتی «جبلعلی» دبی/ فیلمبردارها دستگیر شدند!
-
دانشجویان تحصیلات تکمیلی از مهر ماه صاحب «ردا کارت» میشوند
-
شارژ کالابرگ مرداد ماه از فردا آغاز میشود
-
آتشسوزی پارک ملی بمو شیراز طی دو مرحله مهار شد
-
استقلال وارد دوران پوستاندازی شده است/ جوانها آینده تیم هستند
-
روزنامههای صبح چهارشنبه ۱۴ مرداد ۱۴۰۵
-
روزنامههای اقتصادی چهارشنبه ۱۴ مرداد ۱۴۰۵
-
روزنامههای ورزشی چهارشنبه ۱۴ مرداد ۱۴۰۵
- قیمت شیشه سکوریت
- سفیر
- خرید طلای آب شده
- قیمت موکت
- تور کربلا
- استند تسلیت
- مداحی اربعین
- دوربین مداربسته
- مرجع پاسخ معتبر پزشکان
- فروش مواد شیمیایی
- قیمت ایمپلنت
- قطعات لباسشویی
- آموزشگاه تیزهوشان
- بلیط هواپیما
- پرشین هتل
- نمایندگی بوش در تهران
- بهترین جراح بینی
- آموزشگاه زبان ملل
- قیمت و خرید سمعک نامرئی
- مهرینو