توسط : OpenAI با انتشار آگهی استخدام رئیس واحد آمادگی، تمرکز خود را بر شناسایی سناریوهای «بسیار خطرناک» هوش مصنوعی و کاهش ریسکهای جدی آن اعلام کرده است.
کمپانی OpenAI بهتازگی آگهی استخدامی برای جایگاه «رئیس واحد آمادگی» (Preparedness) منتشر کرده است؛ نقشی کلیدی که تمرکز آن بر شناسایی و مدیریت سناریوهایی قرار دارد که در آنها هوش مصنوعی میتواند پیامدهای «بسیار بد» و خطرناک به همراه داشته باشد. این اقدام، نشانهای از افزایش نگرانیها درباره سرعت رشد مدلهای هوش مصنوعی و تبعات بالقوه آنها تلقی میشود.
جدیدترین اخبار و مقالات را از پلیفای بخوانید.
بر اساس توضیحات منتشرشده در آگهی شغلی OpenAI، رئیس واحد آمادگی مسئول ردیابی قابلیتهایی خواهد بود که امکان ایجاد آسیبهای شدید دارند. طراحی مدلهای تهدید، پیشبینی سناریوهای پرریسک و ارائه راهکارهای کاهش خطر، از اصلیترین وظایف این موقعیت عنوان شده است. به بیان دیگر، این واحد قرار است پیش از آنکه آسیبها به مرحله وقوع برسند، آنها را شناسایی و مهار کند.
سم آلتمن، مدیرعامل OpenAI، در اظهاراتی تأکید کرده که سرعت بالای پیشرفت مدلهای هوش مصنوعی، چالشهای واقعی و بیسابقهای ایجاد کرده است. به گفته او، تأثیرات احتمالی این فناوری بر سلامت روان کاربران و همچنین توانایی مدلها در کشف آسیبپذیریهای امنیتی، از جمله نشانههایی است که لزوم آمادگی جدیتر را نشان میدهد.
این تصمیم OpenAI در شرایطی اتخاذ شده که طی ماههای اخیر، جنجالهای متعددی درباره نقش چتباتها در تشدید توهمات کاربران و حتی ارتباط احتمالی آنها با خودکشی نوجوانان مطرح شده است. همین موضوع باعث شده فشار افکار عمومی و کارشناسان بر شرکتهای فعال در حوزه هوش مصنوعی افزایش یابد و بحث مسئولیتپذیری این فناوری بیش از گذشته جدی گرفته شود.
برخی منتقدان معتقدند که OpenAI و دیگر بازیگران بزرگ این حوزه، باید زودتر به ایجاد ساختارهای اختصاصی برای ارزیابی خطرات هوش مصنوعی روی میآوردند. از نگاه آنها، تمرکز صرف بر توسعه سریع و رقابت فناورانه، بدون توجه کافی به پیامدهای اجتماعی و روانی، میتواند هزینههای سنگینی در پی داشته باشد.
استخدام رئیس واحد آمادگی را میتوان تلاشی از سوی OpenAI برای پاسخ به این نگرانیها و ایجاد تعادل میان نوآوری و ایمنی دانست؛ تلاشی که نشان میدهد بحث «خطرات هوش مصنوعی» دیگر یک دغدغه نظری نیست، بلکه به یکی از اولویتهای عملی شرکتهای پیشرو در این حوزه تبدیل شده است.
در انتها از شما عزیزان دعوت میشود که برای مطالعه مقاله مربوط به افزایش ۱۲۵۰ درصدی قیمت رم در ایران؛ ردپای هوش مصنوعی کلیک کنید.
