山東醫學高等專科學校前身為1966年3月山東省人民委員會批準青島醫學院在沂水設立的分院；

1972年8月，國務院科教組批準學校正式命名為沂水醫學專科學校；

1981年9月，山東省人民政府批準學校由沂水遷往臨沂；

1986年3月，山東省人民政府批準學校更名為臨沂醫學專科學校；

2004年12月，經省政府報國家教育部批準，更名為山東醫學高等專科學校；

2005年1月，經省政府同意將山東省衛生學校并入，組建成新的山東醫學高等專科學校。