| مروری بر روش‌های هرس در شبکه‌های عصبی عمیق با تاکید بر روش‌های هرس پیش از آموزش |
| کد مقاله : 1025-CSANS2022 (R1) |
| نویسندگان: |
|
عطیه فیروزه *1، مرتضی محجل2، محبوبه شمسی2 1قم شهرک قدس خیابان اوینی جنوبی کوچه 12 پلاک 47 3716146981 2استادیار دانشکده برق و کامپیوتر، صنعتی قم، قم، ایران |
| چکیده مقاله: |
| با گسترش کاربرد شبکه‌های عصبی، عمیق شدن و افزایش پارامترهای شبکه، در عین حال محدودیت منابع محاسباتی، محدودیت در حافظه و تفسیرناپذیر شدن این شبکه‌ها، فشرده‌سازی شبکه‌های عصبی مورد توجه قرار گرفته است. فشرده‌سازی می‌بایست به صورت هوشمندانه باشد، به نحوی که ما را از مزایای بهره مندی از شبکه‌های عصبی عمیق جدا نکند. هرس به عنوان یکی از روش‌های فشرده‌سازی با حذف پارامترهای غیرضروری شبکه، همواره مورد اقبال پژوهشگران بوده است، به نحوی که در پژوهش‌های اخیر سعی شده است، مرحله‌ای با عنوان هرس پیش از آموزش شبکه، در مراحل قبل از راه‌اندازی شبکه گنجانده شود تا از مزایای فشرده‌سازی و هرس در مراحل آموزش و استنتاج شبکه بهره برده شود. در مقاله پیش رو سعی شده است، مروری بر روش‌های هرس با تاکید بر هرس‌های پیش از آموزش شبکه انجام شود. در ابتدا مبانی هرس مطرح شده، سپس انواع هرس به همراه تعریف ریاضی هریک مطرح و در نهایت بررسی دقیق‌‌تر‌ی روی هرس‌های پیش از آموزش شبکه انجام شده است. |
| کلیدواژه ها: |
| شبکه عصبی عمیق، فشرده‌سازی شبکه عصبی، فرضیه بلیط بخت‌آزمایی، هرس پیش از راه‌اندازی شبکه |
| وضعیت : مقاله برای ارائه به صورت پوستر پذیرفته شده است |
