Open AI؛ بنیان‌گذار هوش‌مصنوعی بی‌ضرر

به گزارش خبرنگار ایمنا، Open AI یک شرکت پژوهشی غیرانتفاعی هوش مصنوعی است که با هدف توسعه هوش‌مصنوعی بی‌ضرر یا Friendly AI برای خدمت به بشریت فعالیت می‌کند؛ این شرکت برای همکاری آزادانه با سایر مؤسسات و پژوهشگران، پتنت‌ها و تحقیقات خود را به صورت عمومی منتشر می‌کند. بخشی از انگیزه‌های بنیان‌گذاران Open AI از جمله ایلان‌ماسک و سام آلتمن به نگرانی‌هایی که در رابطه با تهدیدات هوش‌مصنوعی برای موجودات است، بازمی‌گردد.

تاریخچه شرکت Open AI

در اکتبر سال ۲۰۱۵ ماسک، آلتمن و چند سرمایه‌گذار دیگر، سازمان Open AI را با سرمایه اولیه یک میلیارد دلار تأسیس کردند. در بیست‌وهفتم آوریل ۲۰۱۶ این شرکت نسخه عمومی و بتا Open AI Gym و پلتفرم آن را برای یادگیری تقویتی منتشر کرد و سپس در پنج دسامبر همان سال، پلتفرم نرم‌افزاری برای اندازه‌گیری و آموزش هوش عمومی مصنوعی از طریق منابعی مانند بازی، وب‌سایت و سایر کاربردها عرضه کرد.

طی تورنمنت بازی‌های ویدئوی The International 2017 Dota 2 که در اوت ۲۰۱۷ برگزار شد، شرکت Open AI مسابقه‌ای بین یک بات نرم‌افزاری و بازیکن حرفه‌ای به نام دندی را به نمایش گذاشت. پس از این مسابقه، گرگ بروکمن مدیر ارشد تکنولوژی این شرکت اعلام کرد که این بات نحوه انجام بازی دوتا را طی دو هفته آموزش از طریق مسابقه با خودش فرا گرفته است و دارد برای ایجاد نرم‌افزاری برای انجام اعمال پیچیده‌ای مانند عمل جراحی آماده می‌شود.

خروج ایلان ماسک از Open AI

ایلان‌ماسک در بیست‌ویکم فوریه ۲۰۱۸ شرکت Open AI را ترک کرد و علت این کار را امکان تعارض فعالیت در این شرکت با برنامه تسلا برای توسعه هوش‌مصنوعی قادر به راندن اتومبیل، اعلام کرد.

انگیزه شرکت Open AI

برخی از دانشمندان مانند استیون هاوکینگ و استوارت راسل بر این بار بودند که اگر هوش‌مصنوعی پیشرفته روزی قادر شود تا خود را با نرخی فزاینده، طراحی و بازطراحی کند، انفجار هوش غیرقابل توقفی صورت می‌گیرد که منجربه انقراض بشریت می‌گردد. ایلان ماسک نیز هوش‌مصنوعی را بزرگ‌ترین تهدید برای موجودیت بشر توصیف می‌کند. شرکت Open AI معتقد است، فهمیدن اینکه هوش‌مصنوعی همسطح انسان چه‌مقدار می‌تواند مفید باشد، دشوار است و به همان اندازه درک این موضوع که هوش‌مصنوعی همسطح انسان اگر نادرست ساخته یا استفاده شود چقدر می‌تواند به جامعه آسیب برساند نیز دشوار است.

استراتژی Open AI

ایلان‌ماسک این پرسش را مطرح کرده است که بهترین کاری که می‌توان برای اطمینان از خوب بودن آینده کرد چیست؟ آیا می‌توان در حاشیه نشست و فعالیتی انجام نداد یا باید در ساختار صحیحی برای توسعه هوش‌مصنوعی به نحوی که ایمن و مفید باشد مشارکت کرد. ایلان‌ماسک اذعان می‌کند که همواره در مسیر توسعه هوش‌مصنوعی بی‌ضرر ریسک ساخته‌شدن چیزی که از آن می‌ترسیم وجود دارد، با این حال بهترین دفاع این است که تا می‌توانیم به توانمند کردن افراد برای بهره‌گیری از هوش‌مصنوعی کمک کنیم. اگر تمام مردم قدرت هوش‌مصنوعی را دارا باشند، هیچ شخص یا گروهی وجود نخواهد داشت که ابرقدرت هوش‌مصنوعی به‌شمار برود.

استراتژی غیرمعمول ماسک و آلتمن که کاهش مخاطرات هوش‌مصنوعی از طریق همه‌گیر کردن آن در بین افرادی که نگران خطر انقراض بشریت به‌دست این تکنولوژی هستند، بسیار بحث‌برانگیز است، به‌طورمثال Nick Bostroom در رویکرد ماسک تردید دارد و می‌گوید: اگر شما دکمه‌ای دارید که با فشردن آن اتفاقات بدی می‌افتد، نباید آن را به سایرین بدهید. در طول گفت‌وگویی که در سال ۲۰۱۶ پیرامون منحصربه‌فرد بودن تکنولوژی انجام شد، آلتمن اظهار کرد که برنامه‌ای برای انتشار تمام کد منبع ندارد و برنامه‌ای را مورد اشاره قرارداد که طی آن امکان انتخاب نمایندگان برای یک مجموعه هدایتگر توسط مردم دنیا وجود خواهد داشت.

برنامه Gym

این برنامه با هدف ارائه یک بنچمارک هوش عمومی مصنوعی که به راحتی نصب شده و بتواند روشی را که طی آن محیط هوش‌مصنوعی در تحقیقات تعریف می‌شود، استانداردسازی نماید، منتشر شد؛ این هدف مانند فعالیتی است که در چالش ImageNet Large Scale Visual Recognition برای تحقیقات یادگیری با سرپرست استفاده می‌شود، اما این برنامه قرار است گسترده‌تر باشد. هدف از استانداردسازی محیط در هوش‌مصنوعی آسان‌تر کردن بازتولید نتایج تحقیقات منتشر شده است؛ این پروژه ادعا می‌کند به کاربران، واسط کاربری ساده‌ای ارائه می‌کند.

RoboSumo

ایگور مورداچ از Open AI استدلال می‌کند که رقابت بین عامل‌ها می‌تواند منجر به ایجاد مسابقه تسلیحاتی شود که می‌تواند قابلیت عامل برای عمل، حتی خارج از محیط مسابقه را افزایش دهد. در RoboSumo، یک ربات مجازی انسان‌نما در ابتدا فاقد هرگونه دانشی ایجاد می‌شود و حتی نحوه راه‌رفتن را نمی‌داند، سپس طی یک رقابت خصمانه، عامل یاد می‌گیرد که چگونه خود را با شرایطی که همواره در حال تغییر است انطباق دهد. هنگامی که عامل از محیط رقابت خارج می‌شود و در محیط جدیدی قرار می‌گیرد، استوار باقی می‌ماند که این موضوع نشان می‌دهد که نحوه ایجاد تعادل را فراگرفته است.

شرکت‌کنندگان شرکت Open AI

• سام آلتمن: رئیس استارت‌آپ شتاب‌دهنده Y Combinator
• رید هافمن: هم بنیان‌گذاری لینکدین
• پیتر تیل: هم بنیان‌گذار پی‌پال
• گرگ باکمن: مدیر ارشد تکنولوژی سابق Stripe
• جسیکا لیوینگستون: هم بیان‌گذار Y Combinator