Conhecido com base em apenas um crânio e em uma mandíbula localizados em Montana e em três dentes encontrados no Dakota do Sul, o nanotyrannus foi considerado inicialmente como um albertossauro. Recentemente, o animal foi redescrito porque diferia do albertossauro em muitos traços. Uma diferença é que os olhos do nanotyrannus ficavam apontados para a frente, enquanto os do albertossauro ficavam nas laterais da cabeça, com pouca sobreposição dianteira do campo visual. O nanotyrannus era capaz de julgar distâncias, dimensões e ângulos de ataque. Era provável que se movimentasse em meio à vegetação rasteira, esperando em emboscada e depois saltando sobre suas presas. O albertossauro provavelmente caçava de maneira bem diferente porque não era capaz de julgar distâncias.
O nanotyrannus tinha um pescoço curvo, que lhe dava mais poder quando atacava. A parte de trás do crânio era expandida para a conexão entre os músculos da mandíbula e os do pescoço, o que ampliava o movimento lateral de seu pescoço e cabeça. A altura do animal nos ombros era de cerca de 2 a 2,40 metros e o peso provável era de uma tonelada.
Os dentes do nanotyrannus não foram bem preservados, mas eram lâminas serrilhadas, assim como na maioria dos dinossauros carnívoros. Muitas porções do crânio do nanotyrannus são intrigante e alguns dos ossos não são fundidos (integrados), o que pode significar que não tratava de um adulto. Alguns paleontologistas consideram que ele talvez fosse um tiranossauro jovem. Tiranossauros, encontrados nos mesmos depósitos, também tinham olhos voltados para a frente. Além disso, alguns crânios de tarbossauros, um parente próximo do tiranossauro, foram localizados na Mongólia. O menor e provavelmente mais jovem deles se assemelha muito ao nanotyrannus. Novos estudos podem demonstrar que o nanotyrannus é de fato um jovem tiranossauro.