需要有能證明與單位存在過勞動關係的證據，包括：工作證或工作牌（最好蓋有公章）、工資卡交易記錄、工資條、有公司名稱的工裝、去地稅局列印並蓋章的個稅完稅證明、用人單位辦理的暫住證、考勤記錄、社會保險繳納記錄、派工單、同事證言（離職在職的都可以）、錄音錄影或者其它有自己名字和公章或老闆簽字的的書面材料等。
法律依據：
《勞動合同法》第三十九條
勞動者有下列情形之一的，用人單位可以解除勞動合同：
（一）在試用期間被證明不符合錄用條件的；
（二）嚴重違反用人單位的規章制度的；
（三）嚴重失職，營私舞弊，給用人單位造成重大損害的；
（四）勞動者同時與其他用人單位建立勞動關係，對完成本單位的工作任務造成嚴重影響，或者經用人單位提出，拒不改正的；
（五）因本法第二十六條第一款第一項規定的情形致使勞動合同無效的；
（六）被依法追究刑事責任的。
