明洪武三十一年（1398年），为防倭寇侵扰，析辛汪都三里置设威海卫，原为文登县地，永乐元年（1403年）建城，名寓“威震东海”之义。“卫治极山东之东，三面环海，一城负山，形胜险要甲于天下，盖海防一重地也”（明谷景阳《重请威海卫印记》）。威海之名从此始兴。威海即由此而来。1954年10月，威海市由专区辖市改为省辖市（县级），由文登专区督导。1983年8月30日，经国务院批准，撤销烟台地区，烟台改为省辖地级市，威海市仍为省辖县级市，由烟台市代管。1987年6月15日，经国务院批准，威海市升为地级市。

截至2021年12月31日，威海市辖2区2县级市：环翠区、文登区、荣成市、乳山市。