Kota tersebut berada di tepi Sungai Asahan, yang merupakan sungai terpanjang di Sumut.
Di kota tersebut, Sungai Asahan dan Sungai Silau, yang juga sungai besar di Sumut, bertemu sebelum bermuara ke Selat Malaka.
Lokasi pertemuan kedua sungai berada di timur laut Kota Tanjung Balai.
Kota Tanjungbalai memiliki sebuah pelabuhan bernama Pelabuhan Teluk Nibung.
Pelabuhan tersebut berada di Kecamatan Teluk Nibung.
Pelabuhan Teluk Nibung adalah pelabuhan tertua kedua di Sumut, setelah Pelabuhan Belawan.
Baca juga Penampakan 4 Pelaku Penculikan dan Pembunuhan Kacab Bank BUMN