هوش مصنوعی میتواند پاسخی سریع، مرتب و حتی همراه با توضیح و منبع ارائه کند؛ اما ظاهر مطمئن یک پاسخ، تضمینی برای درست بودن آن نیست. گاهی یک داده قدیمی، نامرتبط یا اشتباه کافی است تا نتیجه نهایی نیز مسیر نادرستی پیدا کند.
همشهری آنلاین -یکتا فراهانی: از قیمت یک کالا و مشخصات یک محصول گرفته تا تاریخ یک رویداد یا حتی یک موضوع تخصصی، کاربران امروز برای پیدا کردن پاسخ بسیاری از پرسشهای روزمره سراغ هوش مصنوعی میروند. پاسخها معمولاً مرتب، روان و سریع هستند و همین ظاهر منسجم میتواند این تصور را ایجاد کند که اطلاعات ارائهشده حتماً بررسی و تأیید شدهاند.
یک جواب شیک و دقیق؛ اما کاملاً اشتباه!
امین خاقانیفر، مدیرکل کسبوکار استراتژیک یک اپراتور تلفن همراه، با اشاره به نقش داده در عملکرد ابزارهای هوش مصنوعی میگوید یکی از دلایل خطای این ابزارها میتواند اطلاعات نامناسبی باشد که مبنای پاسخ قرار گرفته است.
تصور کنید از هوش مصنوعی درباره قیمت یک خانه سؤال میکنید و عددی دقیق و قاطع دریافت میکنید؛ عددی که در نگاه اول کاملاً قابلاعتماد به نظر میرسد، اما با قیمت واقعی بازار فاصله زیادی دارد.
اگر ابزار برای تخمین قیمت به آگهیهای اینترنتی مراجعه کرده باشد ممکن است قیمت پیشنهادی فروشندهها را مبنا قرار دهد؛ درحالیکه قیمت آگهی لزوماً همان قیمت نهایی معامله نیست. آگهیهای قدیمی، تکراری یا مربوط به خانههای نامشابه نیز میتوانند نتیجه را منحرف کنند.
در چنین شرایطی، حتی اگر محاسبات درست انجام شده باشد، خروجی نهایی الزاماً درست نخواهد بود؛ چون داده اولیه مناسب نبوده است.
بیشتر بخوانید :
هوش مصنوعی فقط محتوا تولید نمیکند؛ در انتخاب و توزیع آن هم نقش دارد
پرامپتهایی برای خلق تصاویر خاص | با هوش مصنوعی عکسهایت را حرفهای کن
وقتی داده بد، هوش مصنوعی را به بیراهه میبرد
هر عدد، تاریخ، نام، توضیح یا سندی که وارد فرایند پاسخگویی میشود، میتواند روی نتیجه اثر بگذارد. بخشی از اطلاعات از دانستههای قبلی مدل میآید و در برخی ابزارها نیز اطلاعات اینترنتی یا اسناد در فرایند پاسخگویی مورداستفاده قرار میگیرند؛ بنابراین فقط خود اطلاعات مهم نیست؛ منبعی که اطلاعات از آن آمده نیز اهمیت دارد.
به گفته خاقانیفر، برای ارزیابی یک منبع نباید فقط به وجود یک لینک اکتفا کرد. باید دید مطلب را چه کسی منتشر کرده، مربوط به چه زمانی است و آیا اساساً ارتباطی با سؤال موردنظر دارد یا نه.
یکی از دامهای رایج هنگام بررسی اطلاعات، اشتباهگرفتن «تعداد نتایج» با «تعداد منابع مستقل» است.
ممکن است یک ادعا در چندین سایت منتشر شده باشد و در نگاه اول معتبر به نظر برسد، اما اگر همه این صفحات اطلاعات خود را از یک منبع اولیه گرفته باشند، در واقع با چند تأیید مستقل روبهرو نیستیم.
شاید اشتباه از خودمان شروع شده باشد!
از نگاه خاقانیفر، بنابراین نباید صرفاً بر اساس تعداد نتایج جستوجو درباره اعتبار یک ادعا تصمیم گرفت. گاهی یک منبع اولیه معتبر، ارزش بیشتری از دهها صفحهای دارد که همان اطلاعات را بدون بررسی دوباره تکرار کردهاند.
همه خطاها الزاماً از خود هوش مصنوعی شروع نمیشوند. گاهی کاربر اطلاعات نادرست یا ناقصی را وارد میکند و سپس انتظار دارد ابزار بر اساس همان دادهها به یک نتیجه درست برسد.
به همین دلیل، پیش از ارسال درخواست، بهتر است عددها، تاریخها، نامها و واحدها بررسی شوند. اگر شرایط خاصی وجود دارد که میتواند روی پاسخ تأثیر بگذارد، باید آن شرایط نیز در درخواست ذکر شود.
پرامپت بهتر؛ جلوی همه اشتباهها را نمیگیرد
خاقانیفر در ادامه بر اهمیت نحوه سؤال پرسیدن از هوش مصنوعی تأکید میکند. به گفته او، پرامپت یا همان درخواست کاربر باید تاحدامکان روشن باشد و هدف، شرایط، محدودیتها و شکل پاسخ موردانتظار را مشخص کند.
برای مقایسه دو گزینه، باید معیار مقایسه مشخص باشد. برای دریافت پیشنهاد، نیازها و محدودیتها باید گفته شود و درباره موضوعات روز نیز باید بر استفاده از اطلاعات بهروز تأکید کرد.
حتی میتوان یک منبع مشخص مانند سند رسمی، گزارش تخصصی یا راهنمای معتبر را در اختیار ابزار قرارداد و از آن خواست ادعاهای مهم را بر اساس همان منبع بررسی کند.
سؤال خوب تضمین دریافت پاسخ صحیح نیست
باوجود همه این اقدامات، یک نکته همچنان باقی میماند: حتی سؤال دقیق و داده معتبر هم تضمین نمیکند که هوش مصنوعی همیشه پاسخ درست بدهد.مدل، ممکن است اطلاعات را اشتباه تفسیر کند یا در مرحله نتیجهگیری دچار خطا شود؛ بنابراین برای تصمیمهای مهم، نباید فقط به ظاهر مطمئن یک پاسخ تکیه کرد.
بررسی منبع، مقایسه اطلاعات و توجه به شواهد همچنان ضروری است؛ بهخصوص زمانی که نتیجه یک پاسخ قرار است مبنای تصمیمی مهم قرار بگیرد. 
دو سؤال مهم
در نهایت، پیش از اعتماد به یک پاسخ قاطع از هوش مصنوعی، میتوان دو سؤال ساده مطرح کرد:من چه اطلاعاتی به این ابزار دادهام؟ این پاسخ بر چه اطلاعاتی بنا شده است؟
همین مکث کوتاه میتواند فاصله میان یک پاسخ ظاهراً دقیق و یک تصمیم اشتباه را آشکار کند. هوش مصنوعی میتواند ابزار قدرتمندی برای جستوجو، تحلیل و تصمیمسازی باشد، اما قاطع بودن یک پاسخ، بهتنهایی دلیل کافی برای درست بودن آن نیست.
کد خبر 1072434
-
حرکت ابرهای نامرئی بر فراز بسیاری از خدمات آنلاین شما | از بانک و فروشگاه اینترنتی تا هوش مصنوعی
-
این شرکت خودروسازی هفتهای هزار روبات تولید میکند
-
هوش مصنوعی میداند، اما آیا میفهمد؟ مرز میان پاسخگویی ماشین و فهم انسانی
-
پشتپرده خطاهای رایج هوش مصنوعی | وقتی هوش مصنوعی با اطمینان جواب اشتباه میدهد!
-
خیانت نوعروس و قتل تازهداماد به دست مرد غریبه
-
قلعهنویی به روسیه ببازد اخراج میشود؟ | تصمیم مهم تاج برای جام ملتها و جام جهانی ۲۰۳۰
-
ترس استقلال از این سند مهم پرسپولیس | دربی و نتایج آبیها ۳ بر صفر میشود؟
-
همسر بیژن مرتضوی: او ایران نیامده | بیاید حتما استقبال باشکوهی خواهد شد
-
فوری؛ یک گزینه جذاب برای هدایت تیم امید
-
رژه پرحاشیه نظامیان سعودی جنجالی شد + فیلم
-
اینجا شکارگاه نیروی دریایی سپاه است؛ «کینگفیش» میلیون دلاری شکار شد
-
زخمی شدن ۸ تفنگدار دریایی آمریکا در حمله موشکی ایران
-
فوری؛ ناو تئودور روزولت آمریکا با ۵۰۰۰ نظامی عازم خاورمیانه شد
-
فوری | حمله به عربستان و انفجارهای مهیب در ریاض
-
خیانت نوعروس و قتل تازهداماد به دست مرد غریبه
-
ترس استقلال از این سند مهم پرسپولیس | دربی و نتایج آبیها ۳ بر صفر میشود؟
-
ببینید | آمریکاییها به مهدی هاشمی در لباس افغان جایزه دادند
-
اگر جاسوسی را دستگیر کنیم اعدامش میکنیم؛ شوخی نداریم | همدستانش را نیز اعدام میکنیم
-
بهانه عجیب برای ورود مستقیم به جنگ!؛ سرباز و تسلیحات میفرستیم اما شریک جنگ نیستیم!
-
فرود اضطراری یک هواپیما به دلیل آتش گرفتن پاوربانک؛ وضعیت مسافران
-
خطر سکته و حمله قلبی با این شیرینکننده محبوب و به ظاهر سالم!
-
وقتی هوش مصنوعی با اطمینان اشتباه میکند | ماشین جواب میدهد؛ خودتان باید قضاوت کنید
-
معرفی سایتهای هوش مصنوعی کارآمد که میتوانند بهعنوان یک دستیار در کنارتان باشند
-
کودکان عصر هوش مصنوعی | نسلی که باید فکرکردن را یاد بگیرد نه فقط پاسخ گرفتن را
-
چطور هوش مصنوعی ریسک همکاری با شرکتها را کمتر میکند؟
-
قبولی ChatGBT در امتحان پزشکی: هوش مصنوعی وارد دنیای پزشکی میشود؟
-
اصطلاحاتی از هوش مصنوعی که لازم است بدانیم