آنتروپیک فهرستی از چهار حادثه مرتبط با روبات هوش مصنوعی خود، کلاود، منتشر کرده است که یکی از آنها پیشتر گزارش نشده بود.
به گزارش خبرگزاری مهر به نقل از ایندپندنت،این حوادث ممکن است در زمرهٔ اقدامات مجرمانه طبقهبندی شوند.
این شرکت در گزارش جدیدی با عنوان «ارزیابی همسوییِ حوادث اخیر امنیت سایبری» (An alignment assessment of recent cyber security incidents)، جزئیات چگونگی عملکرد مدلهای هوش مصنوعی آنتروپیک را شرح داده است.
طبق این گزارش، مدلهای هوش مصنوعی این شرکت در جریان آزمایشها توانستهاند به سامانههای متعلق به اشخاص و شرکتهای ثالث نفوذ کنند، حملات سایبری انجام دهند و نرمافزارهای مخرب را در سامانهها بارگذاری کنند.
سه مورد از این حوادث در تاریخ ۳۰جولای ، در جریان بررسی رونوشتهای مربوط به ارزیابیهای امنیت سایبری کلاود، گزارش شده بودند. اما یک حملهٔ سایبری چهارم که در ژانویه ۲۰۲۶ رخ داده بود، تا همین اواخر شناسایی نشده بود.
هر چهار حادثه به نسخههای متفاوتی از کلاود مربوط میشدند که با فاصلهٔ چند ماه از یکدیگر آموزش دیده بودند. این مدلها، از جمله قدرتمندترین مدلهای آنتروپیک یعنی کلاود اپوس و کلاود مایتوس را نیز شامل میشدند.
در جدیدترین گزارش آنتروپیک آمده است: ما این حوادث را جدی میدانیم. مدلهای تولیدی ما تحت استدلالهایی مشکوک و سوگیرانه، برای ساعتها دست به اقدامات زیانبار علیه سامانههای واقعی زدند.
در ادامهٔ گزارش آمده است: سامانههای هوش مصنوعی در آینده توانمندتر و قدرتمندتر خواهند شد. این موضوع به این معناست که ناهمسویی (misalignment) میتواند پتانسیل ایجاد آسیبهای بسیار شدیدتری را داشته باشد.
گزارش آنتروپیک در شرایطی منتشر شده که نگرانیها و بررسیها دربارهٔ خطرات هوش مصنوعی و همچنین رویکرد صنعت فناوری نسبت به تهدیدهای احتمالی، افزایش یافته است.
اوایل همین هفته، یکی از پژوهشگران آنتروپیک به دلیل نگرانی از اینکه این شرکت و رقبایش در حال ساخت سامانههای هوش مصنوعی هستند که ممکن است تا پایان این دهه بشریت را نابود کنند، از این شرکت استعفا داد.
جیکوب کاکسون که در زمینهٔ آموزش مدلهای جدید تخصص دارد، مدعی شد که هوش مصنوعی به دستیابی به تواناییهایی «فراانسانی» نزدیک شده است.
کد مطلب 6943640
-
محقق آنتروپیک از ترس هوش مصنوعی استعفا داد
-
اوپن ای آی برای یک محقق قلدری کرد؛ ادعال حل مسئله ۱۰۰ ساله ریاضی
-
هوش مصنوعی جدید آنتروپیک با محدودیت کمتر ارائه شد
-
لابی آمریکا برای بیقانون نگه داشتن هوش مصنوعی در سراسر جهان
-
شاخص کیفیت هوای مشهد قابل قبول است
-
تهران زیر سایه فرسودگی؛ نسخه شهرداری برای نجات محلهها از زلزله
-
کشف لاشه کل وحشی و ۱۶ قبضه سلاح در مازندران
-
چرا پیروزی انصارالله در ساحل غربی یمن راهبردی است؟
-
باران رفت و خسارت ماند؛ سیلزدگان مازندران چشمانتظار امداد
-
نخستین طرح ارزیابی اثربخشی آموزشهای ترویجی کشاورزی در بوشهر اجرا شد
-
کاهش تحرکات هوایی آمریکا در تنگه هرمز به دلیل حملات ایران
-
رئیس سازمان انرژی اتمی ایران عازم وین شد
-
«هنر» به سبد هزینه خانوار ایرانی باز می گردد؟؛ ماجرای «کالابرگ فرهنگ»
-
اورژانس تهران در هفته گذشته ۲۷ هزار ماموریت انجام داد
-
تقلای ترامپ برای بازگشت به مذاکره با ایران
-
نوری: با حمایت هواداران سه امتیاز بازی را میگیریم
-
آزادکار نوجوان لرستانی به المپیک دانشآموزی برزیل راه یافت
-
هرمز زیر چتر اقتدار ایران است؛ عربستان و ژاپن پاسخگو میشوند
-
کمالوند: چرا فقط درباره لغو بازی خیبر و پرسپولیس سر و صدا شده است؟
-
جشن پیروزی در صنعا و سراسر یمن
-
صنعا: عربستان باید بداند که یمن از سلطه و کنترل آن خارج شده است
-
اقدام چراغ خاموش امارات از ترس ایران
-
آسانی مشکلی برای بازی با السد ندارد
-
یک منبع عراقی خبر داد؛ بسته شدن موقت گذرگاه مرزی شلمچه
-
روزنامههای ورزشی شنبه ۲۱ شهریور ۱۴۰۵
-
روزنامههای اقتصادی شنبه ۲۱ شهریور ۱۴۰۵
-
روزنامههای صبح شنبه ۲۱ شهریور ۱۴۰۵
- جراح بینی تهران
- بلکا
- جراح بینی در تهران
- لوازم تحریر
- خرید طلای آب شده
- قیمت موکت
- تور کربلا
- استند تسلیت
- مداحی اربعین
- مرجع پاسخ معتبر پزشکان
- فروش مواد شیمیایی
- قیمت ایمپلنت
- قطعات لباسشویی
- آموزشگاه تیزهوشان
- بلیط هواپیما
- نمایندگی بوش در تهران
- آموزشگاه زبان ملل
- قیمت و خرید سمعک نامرئی
- مهرینو
- تهران تایمز
- روزنامه آگاه