Hingga kini, Poltekpel Barombong sebelumnya dikenal luas dengan BPLPD/BP2IP Barombong menjadi salah satu sekolah pelayaran terbaik di Indonesia bahkan di Asia.

Menurut Master Plan of Manpower Development and Training pada tahun 1970-an, armada nasional Indonesia membutuhkan tenaga pelaut dasar sebanyak 1.350 orang per tahun. Oleh karena itu, pada Januari 1974, Presiden Soeharto bersama dengan Perdana Menteri Jepang Kakuei Tanaka berkenan membicarakan kerja sama antara Pemerintah Republik Indonesia dan Jepang dalam memenuhi kebutuhan pelaut tingkat dasar.

Pada Mei 1975, tim survey dari Jepang yang dipimpin oleh Prof. Fumio Shitani memformulasikan basic design dan lokasi pembangunan Rating School di 3 (tiga) lokasi yaitu Belawan (Sumatera Utara), Ujung Pandang, dan Ambon. Pada tahun 1977, dilakukan survey khusus di Ujung Pandang yang hasilnya menunjukkan bahwa Barombong merupakan lokasi terbaik untuk pembangunan tersebut dan kemudian ditindak lanjuti dengan dilakukan perjanjian kerjasama antara Pemerintah Jepang yang diwakili oleh Duta Besar Jepang untuk Indonesia Hidemichi Kira dan Pemerintah Indonesia yang diwakili oleh Menteri Luar negeri saat itu Jenderal Maraden Panggabean.

Maret 1978 sampai dengan Maret 1980 merupakan masa pembangunan infrastruktur melalui dana grant (hibah) dari Pemerintah Jepang sebesar ¥ 1.050.000,00 dengan dana pendukung sebesar Rp 941.000,00 dari pemerintah RI. Pada pertengahan Maret 1980, gedung beserta fasilitasnya diserahkan oleh Pemerintah Jepang kepada Direktorat Jenderal Perhubungan Laut.

28 Juni 1980 dilakukan peresmian gedung dan fasilitasnya oleh Menteri Perhubungan RI Roesmin Nurjadin dengan nama Balai Pendidikan dan Latihan Pelayaran Dasar (BPLPD) Barombong. Hingga kini, setiap tanggal 28 Juni diperingati sebagai hari ulang tahun BPLPD/BP2IP/Poltekpel Barombong.

Pada tahun 2002, berdasarkan keputusan Menteri Perhubungan RI No. KM. 76 Tahun 2002 tanggal 2 Oktober, nama BPLPD Barombong berubah menjadi Balai Pendidikan dan Pelatihan Ilmu Pelayaran (BP2IP) Barombong.

Di tahun 2019, tata kelola BP2IP Barombong kembali mengalami perubahan. Dengan Peraturan Menteri Perhubungan RI (PM) nomor PM 29 Tahun 2019 tanggal 15 April 2019, BP2IP Barombong berubah kelembagaan menjadi Politeknik Pelayaran Barombong yang namanya secara resmi dipublikasikan saat memperingati hari ulang tahun BPLPD/ BP2IP/Poltekpel Barombong pada tanggal 28 Juni 2019 dan nama Politeknik Pelayaran (Poltekpel) Barombong secara resmi digunakan mulai tanggal 1 Juli 2019.