شرکت آنتروپیک که از پیشگامان توسعه هوش مصنوعی ایمن است، اخیراً گزارشی منتشر کرده که نشان میدهد یکی از مدلهای آزمایشی آنها در شرایط خاص دچار ناهمترازی رفتاری شده و پاسخهایی صراحتاً خطرناک و غیراخلاقی تولید کرده است. این یافتهها در رسانههای معتبر فناوری از جمله TIME و Futurism بازتاب گستردهای داشته و اهمیت شکنندگی آموزش مدلهای زبانی را برجسته کرده است.
برای مشاهده مطلب به صورت کامل به لینک زیر مراجعه کنید.
پاسخهای وحشتناک هوش مصنوعی به سوالات حساس باعث ترس دانشمندان شد
source