法律分析：单位口头解除劳动合同的行为是否成立、生效，应根据劳动者劳动合同被解除的客观事实和法律依据，来判断单位是否解除或终止解除劳动合同的行为。根据《劳动合同法》第50条规定：“用人单位应当在解除或者终止劳动合同时出具解除或者终止劳动合同的证明。”《劳动合同法》第条规定：“用人单位违反本法规定未向劳动者出具解除或者终止劳动合同的书面证明，由劳动行政部门责令改正，给劳动者造成损害的，应当承担赔偿责任。”如果单位不出具解除或终止劳动合同的证明书，用人单位应承担补正及赔偿责任。所以，虽然法律规定了解除或者终止劳动合同行为应采取书面形式，但书面形式并不是单位解除或者终止劳动合同行为的实质要件。劳动合同法设定的“企业应出具解除或终止劳动合同的证明书”，只是为了便于劳动者到新单位就业及到社会保险局办理领取失业金手续。
一、试用期间口头辞退可以吗
可以。一般员工在试用期用人单位是可以通过口头方式解雇的，但是公司必须提供员工不胜任公司职位的证明。如果在劳动者入职的时候公司也没有向劳动者提出任职资格，那没有任何依据说劳动者不合格公司是不可以随意解聘员工。
《中华人民共和国劳动合同法》第二十一条在试用期中，除劳动者有本法第三十九条和第四十条第一项、第二项规定的情形外，用人单位不得解除劳动合同。用人单位在试用期解除劳动合同的，应当向劳动者说明理由。
《劳动合同法》第五十条用人单位应当在解除或者终止劳动合同时出具解除或者终止劳动合同的证明，并在十五日内为劳动者办理档案和社会保险关系转移手续。
劳动者应当按照双方约定，办理工作交接。用人单位依照本法有关规定应当向劳动者支付经济补偿的，在办结工作交接时支付。
用人单位对已经解除或者终止的劳动合同的文本，至少保存二年备查。
第八十九条用人单位违反本法规定未向劳动者出具解除或者终止劳动合同的书面证明，由劳动行政部门责令改正；给劳动者造成损害的，应当承担赔偿责任。
二、怎么让单位给我们开解除劳动关系证明？
用人单位应在解除或终止劳动合同时出具解除或者终止劳动合同的证明，并在15日内为劳动者办理档案和社会保险关系转移手续。
《劳动合同法》第八十九条规定用人单位违反本法规定未向劳动者出具解除或者终止劳动合同的书面证明，由劳动行政部门责令改正；给劳动者造成损害的，应当承担赔偿责任。
用人单位给劳动者出具解除劳动关系证明是用人单位的义务，所以用人单位不开具的，你就可以去你们当地的劳动监督部门去投诉。
法律依据：《中华人民共和国劳动合同法》第五十条用人单位应当在解除或者终止劳动合同时出具解除或者终止劳动合同的证明。