法律分析：不可以。因为根据相关解除规定，员工被追究刑事责任的，用人单位才可以与其解除劳动合同。被追究刑事责任是指被法院判处刑罚的，包括被判处管制、拘役、有期徒刑及缓刑、无期徒刑、死刑(死缓)等。而因违反《中华人民共和国治安管理处罚法》而被行政拘留，未达到“被追究刑事责任”的严重程度，因此用人单位不得与其解除劳动合同。
法律依据：《中华人民共和国劳动合同法》第三十九条 劳动者有下列情形之一的，用人单位可以解除劳动合同：
(一)在试用期间被证明不符合录用条件的;
(二)严重违反用人单位的规章制度的;
(三)严重失职，营私舞弊，给用人单位造成重大损害的;
(四)劳动者同时与其他用人单位建立劳动关系，对完成本单位的工作任务造成严重影响，或者经用人单位提出，拒不改正的;
(五)因本法第二十六条第一款第一项规定的情形致使劳动合同无效的;
(六)被依法追究刑事责任的。