Viện Cơ khí được thành lập theo Quyết định số 1297/QĐ-ĐHHH-TCCB ngày 22/05/2015, trên cơ sở sắp xếp lại Khoa Cơ khí và Viện Khoa học cơ sở. Với 5 chuyên ngành đào tạo thuộc ngành Kỹ thuật cơ khí, Viện Cơ khí mang sứ mệnh cung cấp nguồn nhân lực cơ khí chất lượng cao phục vụ cho phát triển kinh tế khu vực Duyên hải Bắc Bộ và cả nước trong giai đoạn hội nhập quốc tế mạnh mẽ. Việc thành lập Viện Cơ khí nằm trong chiến lược xây dựng Trường Đại học Hàng hải Việt Nam thành trường trọng điểm quốc gia với đa ngành đào tạo.
Lịch sử hình thành Viện Cơ khí quay trở lại năm 1962, khi Bộ môn Tàu thủy thuộc Khoa Cơ khí - Trường Đại học Giao thông vận tải Hà Nội được thành lập nhằm đào tạo nhân lực sửa chữa, đóng mới các phương tiện vận tải thủy phục vụ phát triển kinh tế miền Bắc và trợ giúp tiền tuyến miền Nam. Nhiệm vụ ban đầu của Bộ môn Tàu thủy là đào tạo hai ngành học: Thiết kế đóng mới và sửa chữa thân tàu thủy (gọi tắt là Vỏ tàu) và Thiết kế và sửa chữa hệ thống động lực tàu thủy (gọi tắt là Máy tàu). Cùng với sự phát triển kinh tế miền Bắc và nhu cầu vận tải nhu yếu phẩm phục vụ chiến trường miền Nam, Bộ môn Tàu thủy ngày càng phát triển. Bộ môn sau này được đổi tên thành Bộ môn Cơ khí thủy và trở thành Khoa Cơ khí thủy. Những năm giặc Mỹ đánh phá miền Bắc, Khoa Cơ khí thủy phải chuyển địa điểm và sơ tán ở nhiều nơi như Lục Nam - Hà Bắc, Thanh Trì - Hà Nội. Năm học 1966-1967 (khóa 7), Khoa Cơ khí thủy mở thêm ngành học Máy xếp dỡ, năm 1967-1968 (khóa 8) thì mở thêm ngành học Đóng tàu sông.
Năm 1968, Phân hiệu Đại học đường thủy thuộc Đại học Giao thông vận tải được thành lập và chọn địa điểm tại Hải Phòng. Thời gian đầu Khoa Cơ khí của trường sơ tán tại huyện Tứ kỳ, tỉnh Hải Hưng với bốn ngành học: Vỏ tàu, Máy tàu, Máy xếp dỡ và Đóng tàu sông.
Từ năm 1972, Khoa Cơ khí theo Phân hiệu Đại học đường thủy về trụ sở chính tại Phương Lưu, P. Vạn Mỹ, Q. Ngô Quyền, TP. Hải Phòng. Năm 1984, Trường Đại học đường thủy sáp nhập với Trường Đại học hàng hải, Khoa Cơ khí thuộc trường Đại học hàng hải.
Năm 2010, nhằm định hướng phát triển chuyên môn, Khoa Cơ khí được tách thành hai khoa: Cơ khí đóng tàu và Thiết kế và công nghệ đóng tàu. Khoa Cơ khí đóng tàu khi đó gồm 03 bộ môn: Bộ môn Động lực Diesel, Bộ môn Nhiệt động kỹ thuật và Bộ môn Máy xếp dỡ, quản lý các chuyên ngành đào tạo Máy tàu thủy và Máy xếp dỡ.
Năm 2012, Khoa Cơ khí đóng tàu được đổi tên thành Khoa Cơ khí với mục tiêu mở rộng các chuyên ngành đào tạo cơ khí phục vụ phát triển kinh tế, cả hàng hải và trên bộ. Năm 2014, Khoa Cơ khí mở thêm hai ngành học mới là: Kỹ thuật ô tô và Kỹ thuật nhiệt lạnh.
Tháng 5/2015, Viện Cơ khí được thành lập. Hiện tai, Viện bao gồm 6 bộ môn là Máy xếp dỡ, Kỹ thuật ô tô, Kỹ thuật nhiệt lạnh, Kỹ thuật cơ khí, Cơ điện tử, Công nghệ vật liệu và Trung tâm Thực hành-Thí nghiệm. Hiện tại, Viện Cơ khí đang vận hành 05 chương trình đào tạo đại học gồm: Máy & Tự động hóa xếp dỡ, Kỹ thuật Ô tô; Kỹ thuật nhiệt lạnh; Kỹ thuật cơ khí và Cơ điện tử.
Năm 2021, Nhà trường giao cho Viện Cơ khí vận hành chương trình đào tạo Cao học chuyên ngành Quản lý sản xuất công nghiệp - một hướng đi mới trong nâng cao trình độ cho đội ngũ kỹ sư tại các đơn vị.
Viện Cơ khí có đội ngũ trên 60 cán bộ giảng viên, trong đó 02 Giáo sư, 02 Phó Giáo sư, 20 Tiến sĩ và 39 Thạc sĩ. Số lượng sinh viên được tuyển chọn vào các chuyên ngành ngày càng tăng. Hàng năm, Viện Cơ khí tuyển sinh trên 400 sinh viên hệ Đại học. Quy mô đào tạo của Viện đạt trên 1500 sinh viên.
Trải qua lịch sử hơn 50 năm phát triển, hàng nghìn sinh viên Khoa Cơ khí thủy trước đây và Viện Cơ khí ngày nay đã tỏa đi mọi miền đất nước, đóng góp to lớn vào sự phát triển kinh tế đất nước.
Phát huy truyền thống của ông cha, những thế hệ đi trước, Thầy và Trò Viện Cơ khí quyết tâm dạy thật tốt, học thật tốt nhằm đưa lĩnh vực đào tạo kỹ thuật cơ khí khu vực Duyên hải Bắc bộ phát triển lên tầm cao mới.
- Những thành tích tiêu biểu đã đạt được trong hơn 50 năm qua:
+ Năm 1997: Huân chương lao động hạng III (Khoa Cơ khí);
+ Năm 2002: Huân chương lao động hạng II (Khoa Đóng tàu);
+ Năm 2004, 2007: Bằng khen của Thủ tướng chính phủ (Khoa Đóng tàu);
+ Năm 2007: Huân chương lao động hạng I (Khoa Đóng tàu);
+ Năm 2013: Bằng khen của Bộ GTVT (Khoa Cơ khí).
Năm 2016, nhân dịp kỷ niệm 60 năm thành lập trường, với những đóng góp lớn lao cho sự phát triển của đơn vị, NGƯT, GS. Lê Viết Lượng đã được Nhà nước phong tặng Huân chương lao động Hạng 2.
Phát huy truyền thống vẻ vang của thế hệ cha anh, Thầy và Trò Viện Cơ khí quyết tâm phấn đấu dạy thật tốt, học thật tốt, xây dựng giá trị thật trong hoạt động đào tạo, nghiên cứu khoa học, đáp ứng nhu cầu nguồn nhân lực ngày càng cao của xã hội trong giai đoạn hội nhập quốc tế mạnh mẽ hiện nay.