可以不交，但不可以退保
首先明确一点，不是退社保，而是终止享受“ 城镇登记失业人员灵活就业社会保险补贴”。一般有以下几种情况都要终止灵活就业补贴
（一）与用人单位建立劳动关系、签订《劳动合同》的；（社保在单位续缴）
（二）停止灵活就业的；
（三）不按规定及时足额缴纳个人应承担的社会保险费超过XX日的；
（四）灵活就业社会保险补贴期满的；
（五）已正式办理退休手续或达到法定退休年龄的；
（六）弄虚作假，骗取灵活就业社会保险补贴的；
（七）违反法律、行政法规及有关文件规定的其他情形的。
具体的要看当地劳动行政部门颁布的文件细则
