رحمانی فعالیت شغلی خود را از حوزه هشت بسیج تبریز آغاز کرد. در ادوار هفتم، هشتم و نهم مجلس شورای اسلامی بهعنوان نماینده تبریز در مجلس حضور داشت و در دوره نهم نیز ریاست کمیسیون صنایع و معادن مجلس شورای اسلامی را برعهده گرفت.
او در فاصله سالهای ۱۳۹۵ تا ۱۳۹۷ قائممقام وزیر صنعت، معدن و تجارت در امور تولید بود.
در دولت دوازدهم از سال ۱۳۹۷ تا ۱۳۹۹ بهعنوان وزیر صنعت، معدن و تجارت فعالیت میکرد.
وی در ششمین همایش ملی مدیریت جهادی کشور در سال ۱۳۹۸ نشان ملی مدیریت جهادی کشور را دریافت نمود.