首先应该肯定，用人单位如你所说做法不合法。
其次，法律依据：《中华人民共和国劳动合同法》 第九条 【用人单位不得扣押劳动者证件和要求提供担保】 用人单位招用劳动者，不得扣押劳动者的居民身份证和其他证件，不得要求劳动提供担保或者以其他名义想劳动者收取财物。
毕业证书和学位证书属于本条所述“其他证件”，此做法不合法。
再次，此违法行为法律责任。
法律依据：：《中华人民共和国劳动合同法》 第八十四条 【扣押劳动者身份证等证件的法律责任】 第一款 用人单位违反本法规定，扣押劳动者居民身份证等证件的，由劳动行政部门责令限期退还劳动者本人，并依照有关法律规定给予处罚。
也就是说你可以要求单位退还给你，不行，可以通过劳动行政部门，如劳动局要回。
最后，说一下现实中做法。在现实生活中，上述违法做法很多，不过大的正规企业这方面还是不错的，一般情况下，如果遇到这种情况，劳动者坚决要回了自己的证件，用人单位基本上会以种种理由不继续留用劳动者。劳动者在处理这种情况的时候应该不卑不亢，一方面明确告诉劳动者，自己会遵守、如实履行合法的劳动合同，并辅以出示种种证件，以显示自己的诚信，解除用人单位的疑虑；另一方面，也要坚决的维护自己的合法权益，要回自己的证件。
参考资料：劳动法相关法律知识