Dulu gajah tersebar luas di seluruh wilayah TNKS, tetapi sekarang binatang besar ini hidupnya terbatas di sebelah selatan taman nasional dan populasinya terutama terdapat antara Gunung Sumbing dan Sungai Batang Meranggin (Jambi) dan di sekitar Sungai Seblat dan Sungai Ipuh di Bengkulu.

Gajah dalam Kelompok yang lebih besar jumlahnya dapat mencapai 18-20 ekor, yang terdiri dari gajah betina, remaja dan anak-anak di bawah pimpinan seekor gajah betina. Gajah jantan muda meninggalkan kawanannya untuk membentuk kawanan jantan muda, biasanya terdiri dari 2 atau 3 ekor, dan jika bertambah tua mungkin akan menjadi gajah menyendiri atau "gajah tunggal".

Gajah Sumatera berukuran paling kecil dibandingkan dengan gajah Asia lainnya. Berbeda dengan gajah Afrika, gajah jantan dari Sumatera jarang yang memiliki gigi taring yang panjang (gading), bahkan pada gajah betina, gigi taring ini sangat pendek sehingga tertutup oleh bibir atasnya.

Walaupun gajah merupakan mamalia terbesar di Sumatera, gajah liar agak sulit terlihat di dalam hutan. Peluang untuk melihatnya adalah ketika kawanan gajah sedang menuju sungai untuk minum, mandi atau untuk menjilat air garam.