روشی جدید که نحوه عملکرد هوش مصنوعی را نشان می‌دهد

عرض المزيد

محققان روش جدیدی را برای مقایسه شبکه های عصبی ابداع کرده اند که به جعبه سیاه هوش مصنوعی نگاه می کند تا به محققان در درک رفتار شبکه های عصبی کمک کند.

به گزارش خبرگزاری آنا، محققان آزمایشگاه ملی آلاموس روش جدیدی را برای مقایسه شبکه های عصبی ابداع کرده اند که به جعبه سیاه هوش مصنوعی نگاه می کند تا به محققان در درک رفتار شبکه های عصبی کمک کند. شبکه‌های عصبی الگوها را در مجموعه داده‌ها شناسایی می‌کنند و در برنامه‌های مختلف مانند دستیارهای مجازی، سیستم‌های تشخیص چهره و وسایل نقلیه خودران استفاده می‌شوند.

جامعه هوش مصنوعی لزوماً درک کاملی از آنچه شبکه های عصبی انجام می دهند ندارند. هیدن جونز، محقق گروه تحقیقاتی پیشرفته در سیستم‌های سایبری در لوس آلاموس، می‌گوید: آنها نتایج خوبی به ما می‌دهند، اما نمی‌دانیم چگونه و چرا.

روش جدید در مقایسه با شبکه های عصبی که گامی حیاتی در درک بهتر ریاضیات پشت هوش مصنوعی است، عملکرد بهتری دارد.

جونز نویسنده مقاله اصلی است. این مقاله گام مهمی در تشریح رفتار شبکه های عصبی قوی علاوه بر مطالعه شباهت شبکه است.

شبکه های عصبی بسیار کاربردی اما شکننده هستند. به عنوان مثال، وسایل نقلیه خودران از شبکه های عصبی برای تشخیص علائم استفاده می کنند. آنها در انجام این کار در بهترین شرایط بسیار مهارت دارند. با این حال، شبکه عصبی ممکن است یک علامت را اشتباه تشخیص دهد و در صورت کوچکترین ناهنجاری، مانند برچسب روی علامت، هرگز متوقف نخواهد شد.

بنابراین، به منظور بهبود شبکه های عصبی، محققان به دنبال راهکارهایی برای افزایش پایداری شبکه هستند. يك روش تحميل عبارت «حمله» به تنزيق‌ها در تعريف است. هوش مصنوعی برای پوشش ناهنجاری هایی که محققان به طور هدفمند معرفی می کنند آموزش دیده است. در واقع این تکنیک نامیده می شود آموزش و پرورش خصمانه است مشخص است که فریب شبکه ها را دشوارتر می کند.

در کشفی شگفت‌انگیز، جونز و همکارانش از لوس آلاموس، جیکوب اسپرینگر و گرت کنیون، و همچنین جاستین مور، مربی جونز، معیارهای شباهت شبکه‌های جدید خود را برای شبکه‌های عصبی آموزش‌دیده اعمال کردند. آنها کشف کردند که با افزایش شدت حمله، آموزش خصمانه باعث می‌شود شبکه‌های عصبی در زمینه دید کامپیوتر همگرا شوند تا داده‌های بسیار مشابه را بدون توجه به معماری شبکه نمایش دهند.

جونز گفت: ما متوجه شدیم که وقتی شبکه های عصبی را برای قوی بودن در برابر حملات خاص آموزش می دهیم، آنها شروع به انجام کارهای مشابه می کنند.

تلاش‌های گسترده‌ای در صنعت و جامعه دانشگاهی برای جستجوی «معماری مناسب» برای شبکه‌های عصبی انجام شده است، اما یافته‌های تیم Los Alamos نشان می‌دهد که معرفی آموزش‌های خصمانه این فضای جستجو را به میزان قابل توجهی محدود می‌کند.

در نتیجه، جامعه تحقیقاتی هوش مصنوعی ممکن است نیازی به صرف زمان زیادی برای یادگیری معماری‌های جدید نداشته باشد، زیرا آنها می‌دانند که آموزش رقابتی باعث می‌شود معماری‌های متنوع به راه‌حل‌های مشابه همگرا شوند.

با یافتن شباهت‌های بین شبکه‌های عصبی قوی، درک اینکه هوش مصنوعی واقعاً چقدر قوی کار می‌کند را آسان‌تر می‌کنیم. حتی در مورد چگونگی درک انسان و حیوانات دیگر چه می توان دانست.

انتهای پیام