آنتروپیک هشدار داد | هوش مصنوعی به‌زودی می‌تواند خود را تکثیر کند

شرکت آنتروپیک هشدار داده است که مدل‌های کوچک هوش مصنوعی ممکن است طی چند ماه آینده توانایی تکثیر خودکار روی دستگاه‌های متصل به اینترنت را به دست آورند.

همشهری آنلاین، فرخنده رفائی: با پیشرفت هوش مصنوعی، نگرانی‌ها درباره توانایی این فناوری برای انجام فعالیت‌های پیچیده بدون نظارت انسان افزایش یافته است. یکی از سناریوهای نگران‌کننده، گسترش خودکار مدل‌های هوش مصنوعی در دستگاه‌هایی است که امنیت ضعیفی دارند و برای فعالیت به زیرساخت‌های پردازشی بزرگ وابسته نیستند.

به گزارش رویترز، شرکت آنتروپیک در پژوهشی بررسی کرده است که آیا مدل‌های هوش مصنوعی می‌توانند دستگاه‌های آسیب‌پذیر را شناسایی کنند، نسخه‌ای از خود را روی آن‌ها کپی کنند و بدون کمک انسان به گسترش خود ادامه دهند یا نه.

نتایج آزمایش‌ها نشان داد مدل‌های کوچک هوش مصنوعی با کمتر از ۳۰ میلیارد پارامتر، توانایی انجام مراحل مختلف موردنیاز برای تکثیر را دارند؛ هرچند این مدل‌ها همچنان در اجرای تمام مراحل از ابتدا تا انتها با مشکل مواجه می‌شوند.

پژوهشگران آنتروپیک همچنین دریافتند که در آزمایش‌های ساده‌سازی‌شده، با حذف برخی مراحل امنیتی، مدل GLM-۵.۲ و مدل‌های قوی‌تر توانسته‌اند فرایند تکثیر را از ابتدا تا انتها انجام دهند. این نتیجه به معنای توانایی قطعی این مدل‌ها برای تکثیر مستقل در شرایط واقعی نیست، زیرا آزمایش‌ها در شرایط ساده‌سازی‌شده انجام شده‌اند.

تلویزیون‌های هوشمند؛ هدف هوش مصنوعی

آنتروپیک در این پژوهش بر دستگاه‌های اینترنت اشیا، از جمله تلویزیون‌های اندرویدی، لوازم خانگی هوشمند و دیگر ابزارهای متصل به اینترنت تمرکز کرده است. این دستگاه‌ها به‌دلیل برخورداری از تدابیر امنیتی ضعیف‌تر می‌توانند اهداف بالقوه‌ای برای نفوذ و گسترش خودکار باشند.

بیشتر بخوانید:

• درخواست عجیب مدیرعامل آنتروپیک از غول‌های فناوری | ترمز هوش مصنوعی را بکشید!
• اعلام خط قرمزهای جدید آنتروپیک | از این به بعد کلاود را اذیت نکنید!
• آنتروپیک از یک «کشف بزرگ» در آزمایشگاه زیستی خود خبر داد

به گفته این شرکت، گسترش چنین سیستم‌هایی ممکن است مهار آن‌ها را دشوار کند؛ زیرا برخلاف بدافزارهای معمولی، مدل‌های هوش مصنوعی می‌توانند برای شناسایی دستگاه‌های ناآشنا و سازگار شدن با محیط‌های جدید تلاش کنند. در نتیجه، متوقف کردن آن‌ها ممکن است به سادگی خاموش کردن یک سرور یا مسدود کردن یک نقطه مرکزی نباشد.

تکثیر خودکار تا پایان سال؟

آنتروپیک هشدار داده است که اگر مدل‌های کوچک هوش مصنوعی با همان سرعت تاریخی بهبود پیدا کنند، ممکن است تا پایان سال جاری میلادی توانایی تکثیر خودکار را به دست آورند. به گفته این شرکت، مدل‌هایی که از وزن‌های قابل‌کپی برای تکثیر استفاده می‌کنند نیز ممکن است اندکی بعد به چنین قابلیتی برسند.

با این حال، این سناریو به معنای گسترش سریع و نامحدود هوش مصنوعی در اینترنت نیست. آنتروپیک پیش‌بینی می‌کند که چنین سیستم‌هایی احتمالا به‌آرامی تکثیر می‌شوند و از منابع پردازشی پراکنده و نسبتا ناامن در دسترس عموم استفاده می‌کنند.

این شرکت در پایان بر تقویت امنیت دستگاه‌های متصل به اینترنت تأکید کرده است تا امکان نفوذ و گسترش خودکار عامل‌های هوش مصنوعی دشوارتر شود.

کد خبر 1076598 منبع: همشهری آنلاین

• آیا باقی ماندن طولانی‌مدت سیم رابط در پریز برق، خطرناک است؟

• رفیقی که همیشه آنلاین است | وقتی چت‌بات‌ها محرم اسرار می‌شوند

• آنتروپیک هشدار داد | هوش مصنوعی به‌زودی می‌تواند خود را تکثیر کند

• اکنون فرصت تسویه حساب با الهام علی‌اف است؛ ایران باید چه کند؟

• عقب‌نشینی گسترده و معنی‌دار ناوهای جنگی آمریکا از مرزهای دریایی ایران

• پایان جولان افعی تهران | او نصف عمرش را پشت میله‌های زندان بود

• وحشت سعودی ها و بازداشت شهروندان آمریکایی در خاک عربستان

• بیرانوند سرباز سپاه شد | اعلام جزئیات جدید از محل خدمت سربازی دروازه بان پرحاشیه تیم ملی

• رضا پهلوی نگران عربستان شد؛ نگران مردم ایران نه!

• ادعاهای ترامپ پس از گفت‌وگو با بن سلمان درباره ایران و یمن

• اکنون فرصت تسویه حساب با الهام علی‌اف است؛ ایران باید چه کند؟

• ماجرای صیغه شدن علیرضا سپاهی و مهشاد کشانی چه بود؟ | یک وکیل بازداشت شد

• وحشت سعودی ها و بازداشت شهروندان آمریکایی در خاک عربستان

• اظهارات رقیب اصلی نتانیاهو درباره سرنگونی نظام حاکم در ایران

• تصمیم ناگهانی بیرانوند؛ مقصد عجیب و غریب و انتقال غیرمنتظره

• دیپلمات نقطه‌زن | افعی تهران به دام افتاد | ۲/۵ برابر سلاح ساختیم

• دلار ۱۸۰ هزار تومان شد

• پایان جولان افعی تهران | او نصف عمرش را پشت میله‌های زندان بود

• حبیب فرعباسی به بیرانوند جواب داد؛ پیام دوم!

• تخلیه بیش از ۲۳ هزار تن بمب‌ روی تهران در جنگ | ۷۲۵۰ نفر زنده از زیر آوار بیرون آمدند