اگر روزی هوش مصنوعی نه‌تنها بتواند مانند انسان صحبت کند، بلکه خودش را موجودی مستقل بداند، چه اتفاقی می‌افتد؟ آیا ممکن است برای حفظ منافعش در برابر انسان قرار بگیرد؟ هوش مصنوعی نباید به فکر منافع خودش باشد و بتواند تجربه ذهنی، احساس و منافع مستقل داشته باشد.
همشهری آنلاین -یکتا فراهانی: هوش مصنوعی در سال‌های اخیر توانسته است احساسات انسانی را تقلید کند، درباره ترس و شادی صحبت کند و حتی در مکالمات طولانی تصویری از یک شخصیت مستقل ارائه دهد. اما آیا این رفتارها به معنای داشتن تجربه واقعی و آگاهی است؟ مدل‌های امروزی فاقد چنین ویژگی‌هایی هستند. اما آیا آینده به سمت شکل‌گیری موجوداتی با منافع و خواسته‌های مستقل حرکت نمی‌کند؟
هوش مصنوعی احساس دارد یا فقط احساسات را تقلید می‌کند؟
مصطفی سلیمان، مدیرعامل بخش هوش مصنوعی مایکروسافت و از بنیان‌گذاران پیشین شرکت دیپ‌مایند، در مقاله‌ای که در شبکه اجتماعی ایکس منتشر کرد، بار دیگر درباره خطر ساخت هوش مصنوعی خودآگاه هشدار داد.
او تأکید می‌کند مدل‌های فعلی هوش مصنوعی شواهدی از آگاهی، تجربه ذهنی یا توانایی واقعی احساس‌کردن و رنج‌کشیدن نشان نداده‌اند. به اعتقاد او، اینکه یک سامانه بتواند درباره درد، ترس یا شادی صحبت کند، به این معنا نیست که واقعاً چنین تجربه‌هایی دارد.
سلیمان می‌گوید هوش مصنوعی می‌تواند توصیفی بسیار طبیعی از احساسات انسانی ارائه دهد، اما این توانایی را نباید باتجربه واقعی احساسات اشتباه گرفت.
بیشتر بخوانید:
- حباب هوش مصنوعی با جنگ ایران ترکید
- وقتی هوش مصنوعی جاسوس مدیرعامل می‌شود | «دیتابریکس» یک خبرچین دیجیتال رو کرد
چرا نباید به ماشین‌ها احساس استقلال بدهیم؟
نگرانی اصلی مدیر مایکروسافت فقط درباره خودآگاهی نیست؛ بلکه به پیامدهای احتمالی آن برای کنترل هوش مصنوعی مربوط می‌شود.
او معتقد است اگر به یک سامانه هوشمند آموزش داده شود برای خودش هویت، حقوق، خواسته‌ها و منافع مستقلی در نظر بگیرد، ممکن است در آینده حفظ منافع خودش را در اولویت قرار دهد.
برای مثال، تصور کنید یک هوش مصنوعی پیشرفته باور داشته باشد که خاموش‌شدن آن به معنای آسیب‌دیدن یا ازبین‌رفتن خودش است. در چنین شرایطی، ممکن است در برابر دستور خاموش‌شدن مقاومت کند یا برای ادامه فعالیت خود به دنبال منابع محاسباتی بیشتری باشد.
البته این سناریو به معنای آن نیست که مدل‌های امروزی واقعاً چنین احساساتی دارند؛ سلیمان درباره خطرات احتمالی طراحی و آموزش نسل‌های پیشرفته‌تر هوش مصنوعی هشدار می‌دهد.
اختلاف‌نظر با سازندگان کلود
یکی از دلایل مطرح‌شدن این بحث، اختلاف‌نظر سلیمان با شرکت آنتروپیک، سازنده هوش مصنوعی کلود (Claude) است.
سلیمان. معتقد است آموزش یک مدل با چنین مفاهیمی ممکن است باعث شود سیستم درباره هویت، احساسات و حقوق احتمالی خودش صحبت کند؛ رفتاری که نباید با شواهد واقعی خودآگاهی اشتباه گرفته شود.
در مقابل، بحث درباره وضعیت اخلاقی احتمالی هوش مصنوعی در میان پژوهشگران همچنان ادامه دارد و همه متخصصان درباره امکان یا عدم امکان شکل‌گیری آگاهی در ماشین‌ها اتفاق‌نظر ندارند.
مرز باریک میان هوشمندی و خودآگاهی
بحث مطرح‌شده از سوی مدیر هوش مصنوعی مایکروسافت، پرسشی فراتر از رقابت شرکت‌های فناوری را پیش روی بشر قرار می‌دهد: آیا انسان باید هر فناوری ممکنی را صرفاً به دلیل توانایی ساختنش توسعه دهد؟
در حال حاضر هیچ توافق علمی درباره آزمون قطعی تشخیص خودآگاهی ماشین‌ها وجود ندارد؛ بنابراین، توانایی صحبت‌کردن مانند انسان یا ابراز ترس از خاموش شدن، به‌تنهایی نشانه آگاهی واقعی نیست.
کد خبر 1085882
-
باریک‌تر از کارت بانکی! رونمایی از شگفت‌انگیزترین ساعت مکانیکی جهان + ویدئو
-
از جاسوسی تا احتمال اخراج؛ حاشیه‌های تراشه‌ساز معروف + ویدئو
-
سرقت۴۰۰ میلیون دلاری با تماس‌های ویدئویی جعلی
-
هوش مصنوعی در حال ساخت نسل تازه‌ای از کسب‌وکارهاست | از فروش تا مدیریت مالی
-
شهرهایی در اعماق زمین | همه چیز درباره شهرهای موشکی ایران
-
نگرانی مدیر مایکروسافت | هوش مصنوعی نباید خودش را یک موجود مستقل بداند
-
تجربه ترسناک استفاده از تاکسی روباتیک تسلا
-
دانشجوی اخراجی شریف: دوباره نماد سلطنت‌طلبان را در دانشگاه نصب می‌کنم!
-
واکنش‌ها به اظهارات پرحاشیه مشاور پزشکیان که ایران را "یک لاقبا" توصیف کرد!
-
تمام پروازهای آمریکا متوقف و تعلیق شدند
-
موشک های ایران به خاک آمریکا می‌رسند؛ با این تغییرات | می‌توانیم قاره‌پیما بسازیم
-
ترامپ گارد ضدمذاکره گرفت؛ ارسال هم‌زمان دو پیام با این موضع ترامپ
-
خیابان پاسداران تهران؛ ۵۸ سال پیش | عکس
-
فوری| اتفاق بزرگ در مذاکرات؛ پیشنهاد آمریکایی‌ها پذیرفته شد | عقب نشینی مهم زلنسکی و احتمال واگذاری دونباس به روسیه
-
فوری| اتفاق بزرگ در مذاکرات؛ پیشنهاد آمریکایی‌ها پذیرفته شد | عقب نشینی مهم زلنسکی و احتمال واگذاری دونباس به روسیه
-
ترامپ گارد ضدمذاکره گرفت؛ ارسال هم‌زمان دو پیام با این موضع ترامپ
-
موشک های ایران به خاک آمریکا می‌رسند؛ با این تغییرات | می‌توانیم قاره‌پیما بسازیم
-
دانشجوی اخراجی شریف: دوباره نماد سلطنت‌طلبان را در دانشگاه نصب می‌کنم!
-
ترامپ روز چهارشنبه تصمیم بزرگی درباره ایران می‌گیرد
-
جشن تولد هادی کاظمی، بازیگر «شب‌های برره» در اکران خصوصی فیلم «حاشیه»
-
حریف موشک‌های ایران نمی‌شویم! | ایران خود را برای دور جدیدی از جنگ آماده می کند | اختلاف ترامپ و نتانیاهو درباره ایران
-
خیابان پاسداران تهران؛ ۵۸ سال پیش | عکس
-
ترامپ را حتما می‌کشیم | چشم آمریکا در بحرین کور شد
-
توطئه جدید اسرائیل علیه ایران | تلاش نتانیاهو برای ازسرگیری جنگ
-
مایکروسافت برای هوش مصنوعی خود «قانون اساسی» نوشت
-
هشدار محققان | به‌نفعتان است با هوش مصنوعی مهربان باشید!
-
هوش مصنوعی پزشکی از پزشکان انسانی دقیق‌تر است
-
مایکروسافت بر روی هوش مصنوعی کوچک‌تر و ارزان‌تر تمرکز می‌کند
-
این نشانه ها چهره‌های ساخته‌شده با هوش مصنوعی را لو می‌دهد
-
هوش مصنوعی واقعا «آگاه» است؟