单位以考核不合格为由辞退员工合法吗

要看具体情况。要以劳动法关于辞退的规定办理，比如调换岗位仍不能胜任则辞退才算是合法的;

企业需要做的：

1，绩效考核标准应当通过民主程序制定，并经公示或已告知劳动者。

2，保留绩效考核、培训或调岗的相关证据。如用人单位以员工绩效考核不合格，进而认定其不能胜任本职工作，而解除劳动合同。

3，用人单位对员工“不能胜任本职工作”承担举证责任。举证责任的范围包括：绩效考核标准、绩效标准经民主程序制订并公示、公告证据、员工绩效考核材料、培训或调岗证据、培训或调岗后仍然不能胜任工作的证据。