توسط : در دنیای امروز، نامهایی مثل ChatGPT، جمنای یا Claude دیگر غریبه نیستند. این ابزارهای هوش مصنوعی با مهارتهایی خارقالعاده در نوشتن، حل مسئله و حتی گفتوگو، کاربران را متحیر میکنند. اما سوال مهمتری در پشت این جذابیت نهفته است: آیا این ابزارها واقعاً میفهمند چه میگویند؟ یا فقط شبیه به انسانها رفتار میکنند؟
رسانه پلیفای همواره میکوشد به روزترین اخبار جهان سینما و ورزش و همچنین بهترین معرفی و بررسی های فیلم های مورد علاقه شما را در دسترستان قرار دهد.
نمایش تفکر یا تفکر واقعی؟
نسل جدیدی از مدلهای زبانی با عنوان مدلهای استدلالگر (Reasoning Models) به بازار آمدهاند. تفاوت اصلی آنها با مدلهای قدیمیتر این است که پیش از ارائهی پاسخ، مجموعهای از «مراحل فکری» را نشان میدهند. این فرآیند شبیه به آن است که یک دانشآموز، بهجای فقط نوشتن جواب، کل راهحل را قدم به قدم شرح دهد.
اما آیا این مراحل، واقعی هستند یا فقط ساختگیاند؟ آیا مدل واقعاً مسئله را درک کرده یا صرفاً دارد به شکل ظاهری، «نقش اندیشیدن» را بازی میکند؟
وقتی سوال لو رفته باشد، حل کردن هنر نیست!
یکی از مشکلات بزرگ در ارزیابی عملکرد هوش مصنوعی، چیزی است که محققان به آن «آلودگی دادهها» میگویند. اغلب سوالاتی که برای سنجش مدلها استفاده میشوند، پیشتر در فضای اینترنت منتشر شدهاند. بنابراین ممکن است مدل، بهجای حل کردن مسئله، پاسخ را از قبل به خاطر داشته باشد — مثل دانشآموزی که سوالات امتحان را از قبل دیده است.
تحقیقات اخیر نشان میدهد مدلها در آزمونهایی که محتوای آن کمتر در اینترنت یافت میشود، عملکرد ضعیفتری دارند. این یعنی بخشی از «هوش» آنها، صرفاً تکرار پاسخهایی است که قبلاً دیدهاند، نه نتیجهی استدلال جدید.
آزمایش واقعی: هوش مصنوعی در برابر پازلهای ناشناخته
برای کنار زدن اثرات حافظه، پژوهشگران مجموعهای از معماهای نو طراحی کردند؛ معماهایی که قوانین سادهای دارند، اما به مهارتهای شناختی واقعی نیاز دارند. از بازیهای کلاسیکی مثل «برج هانوی» و «عبور از رودخانه» گرفته تا بازیهای پیچیدهتری مثل شبیهسازی لگو یا چکرز.
این پازلها به تدریج سختتر شدند تا بتوان دید که هوش مصنوعی چگونه با چالشهای جدید مواجه میشود.
نتایج شگفتانگیز: شکست در سکوت!
-
در مسائل ساده: مدلهای معمولی عملکرد بهتری داشتند. جالب اینکه مدلهای «متفکر» بیشازحد تحلیل کردند و حتی دچار خطا شدند. این پدیده به «بیشاندیشی» معروف است.
-
در مسائل متوسط: مدلهای استدلالگر توانستند بدرخشند. اینجاست که «تفکر مرحلهبهمرحله» واقعاً مفید شد و مسیر حل درستتری ایجاد کرد.
-
در مسائل دشوار: سقوط کامل! چه مدلهای ساده و چه مدلهای متفکر، همگی شکست خوردند. توانایی حل مسئله از بین رفت و دقت مدلها به نزدیک صفر رسید.
چرا مدلها «تسلیم» میشوند؟
رفتار عجیب دیگری نیز مشاهده شد: وقتی پیچیدگی مسئله افزایش مییابد، مدلها نهتنها بهتر عمل نمیکنند، بلکه ناگهان دست از تلاش میکشند! میزان تفکر کاهش مییابد و مدل بهنوعی جا میزند.
این رفتاری نیست که از یک موجود اندیشمند انتظار داشته باشیم. انسانها در برابر چالش بیشتر فکر میکنند، اما هوش مصنوعی فعلاً در برابر دشواری، عقبنشینی میکند.
حتی با راهحل هم نمیتوانند اجرا کنند
در یک آزمایش خلاقانه، پژوهشگران راهحل دقیق یک پازل را به مدل دادند تا صرفاً آن را اجرا کند. انتظار میرفت عملکرد عالی باشد، اما باز هم شکست خورد. این نشان میدهد مشکل فقط در یافتن راهحل نیست، بلکه در درک و اجرای قدمهای آن هم ضعف وجود دارد.
چرا این findings مهماند؟
امروز بسیاری از ما با هوش مصنوعی تعامل داریم و گاهی آن را در نقش یک «شریک فکری» تصور میکنیم. اما نتایج این پژوهشها یادآوری میکنند که این مدلها بیشتر «حافظههایی پیشرفته» هستند تا «مغزهایی واقعی». آنها در تقلید انسانها عالیاند، اما هنوز در خلق منطق جدید، مستقل و خلاقانه ضعف دارند.
هوش مصنوعی واقعی، هنوز نیامده
واقعیت این است که بزرگتر کردن مدلها یا تزریق دادهی بیشتر، ما را لزوماً به سوی هوش عمومی مصنوعی (AGI) نمیبرد. برای رسیدن به سامانههایی که واقعاً «میفهمند»، باید مسیر معماریها، الگوریتمها و روشهای یادگیری را بازنگری کنیم.
نتیجهگیری
هوش مصنوعی امروز ابزار قدرتمندی است، اما نباید آن را بیش از اندازه انسانگونه تصور کرد. همانطور که یک بازیگر حرفهای میتواند نقش یک نابغه را ایفا کند، این مدلها هم گاهی فقط نقش «متفکر» را بازی میکنند. شناخت محدودیتها، قدم اول در بهرهبرداری هوشمندانه از فناوری است — نه شیفتگی کور.
در انتها از شما عزیزان دعوت میشود که برای مطالعه مقاله مربوط به چرا برخی گوشیهای اندرویدی بعد از آپدیت کند میشوند؟ بررسی دلایل و راهکارها کلیک کنید.
دیدگاه کاربران (1 دیدگاه)