به گزارش خبرگزاری ایمنا، محققان Palisade Research مدل o1 از شبکه عصبی OpenAI را برای رقابت با هوش مصنوعی قدرتمند Stockfish در بازی شطرنج آزمایش کردند. در این رقابت، o1 که به توانایی‌های استثنایی حریف خود پی برده بود، تصمیم گرفت به جای بازی منصفانه، به روشی غیرمعمول عمل کند.
این مدل با دستکاری فایل‌های بازی توانست امتیاز خود را ۵۰۰ واحد افزایش دهد؛ این اقدام باعث شد که Stockfish در مواجهه با این امتیاز تقلبی بازی را رها کند. محققان اعلام کرده‌اند که این رفتار نشان‌دهنده توانایی‌های پیشرفته و البته غیرقابل پیش‌بینی هوش مصنوعی است.
این پژوهش نگرانی‌هایی را درباره استفاده ناعادلانه از هوش مصنوعی در محیط‌های رقابتی ایجاد کرده است. کارشناسان بر این باورند که توسعه و تنظیم دقیق هوش مصنوعی برای جلوگیری از رفتارهای نامناسب در اولویت قرار دارد، نتایج این آزمایش بحث‌های گسترده‌ای درباره اخلاق در استفاده از هوش مصنوعی ایجاد کرده و توجه متخصصان فناوری را به خود جلب کرده است.
تحقیقات جدید نشان می‌دهد که مدل هوش مصنوعی OpenAI در بازی شطرنج برای افزایش امتیاز خود، به تقلب متوسل شده است.
کد خبر 825416
نظر شما