طبقه بندی کردن خودکار مراحل خواب به منظور تشخیص دادن به موقع اختلالات و مطالعات مرتبط با خواب امری ضروری است. در این مقاله الگوریتمی مبتنی بر EEG تک کاناله برای شناسایی خودکار مراحل خواب با استفاده از تبدیل موجک گسسته و مدل ترکیبی الگوریتم کلونی مورچگان و نیز شبکه عصبی مبتنی بر طبقه بند RUSBoost ارائه می شود. سیگنال با استفاده از تبدیل موجک گسسته به 4 سطح تجزیه شده و ویژگی های آماری از هر یک از سطوح تجزیه شده، استخراج می شود. جهت بهینه سازی کردن و کاهش ابعاد بردارهای ویژگی، از یک مدل ترکیبی الگوریتم کلونی مورچگان و نیز یک شبکه عصبی چندلایه پس انتشار خطا استفاده شده است. سپس از آزمون ANOVA برای تائید صحت ویژگی های بهینه استفاده می شود. طبقه بندی نهایی بر روی این ویژگی های بهینه شده توسط طبقه بند RUSBoost انجام می شود و به طور میانگین برای طبقه بندی 2-کلاس تا 6-کلاس مراحل مختلف خواب صحت بالای 90% را فراهم می کند. نتایج نشان می دهد که روش پیشنهادی، درصد موفقیت بالاتری در طبقه بندی مراحل خواب نسبت به پژوهش های پیشین دارد.