在现实生活中，如果有发现商家进行违规经营、无证经营的情况，卫生局是由权利对其进行行政处罚的，具体的处罚有罚款、停业整顿等。
一、行政处罚减免程序规定
当事人先向相应的行政部门提交申请，申请减免行政处罚，然后由行政部门审查，符合减免条件的，行政部门会下发行政处罚减免通知书，减免当事人的行政处罚。
当事人有下列情形之一的，应当依法从轻或者减轻行政处罚：（一）主动消除或者减轻违法行为危害后果的；（二）受他人胁迫有违法行为的；（三）配合行政机关查处违法行为有立功表现的。
根据《行政处罚法》第4章，第二十七条当事人有下列情形之一的，应当依法从轻或者减轻行政处罚：（一）主动消除或者减轻违法行为危害后果的；（二）受他人胁迫有违法行为的；（三）配合行政机关查处违法行为有立功表现的；（四）其他依法从轻或者减轻行政处罚的。违法行为轻微并及时纠正，没有造成危害后果的，不予行政处罚。在申辩的时候，行政复议的时候或者行政诉讼的时候都可以提出。
二、行政罚款可以减免吗
如果其违法行为没有法律责任，本身就不受行政处罚，更谈不上免除处罚问题。三是必须有法定的免除处罚的情节或事由上述是行政处罚罚款能减免吗的规定。根据《行政处罚法》第二十五条规定，不满十四周岁的人有违法行为的，不予行政处罚，责令监护人加以管教;已满十四周岁不满十八周岁的人有违法行为的，从轻或者减轻行政处罚。《行政处罚法》第五十二条规定，当事人确有经济困难，需要延期或者分期缴纳罚款的，经当事人申请和行政机关批准，可以暂缓或者分期缴纳。
三、消防法共设定了几类行政处罚
《消防法》所设定的行政处罚有七种，具体如下：
（一）警告。是国家对行政违法行为人的谴责和告诫，是国家对行为人违法行为所作的正式否定评价。
（二）罚款。是行政机关对行政违法行为人强制收取一定数量金钱，剥夺一定财产权利的制裁方法。
（三）没收违法所得、没收非法财务。没收违法所得，是行政机关将行政违法行为人占有的，通过违法途径和方法取得的财产收归国有的制裁方法；没收非法财物，是行政机关将行政违法行为人非法占有的财产和物品收归国有的制裁方法。
（四）责令停产停业。
（五）暂扣或者吊销许可证，暂扣或者吊销执照。
（六）行政拘留。
（七）法律、行政法规规定的其他行政处罚。
《市场监督管理行政处罚程序暂行规定》
第十三条
对同一消费者权益争议的投诉，两个以上市场监督管理部门均有处理权限的，由先收到投诉的市场监督管理部门处理。
《市场监督管理行政处罚程序暂行规定》
第十四条
具有本办法规定的处理权限的市场监督管理部门，应当自收到投诉之日起七个工作日内作出受理或者不予受理的决定，并告知投诉人。