La musique de "Where the Streets Have No Name" provient d'une démo que le guitariste The Edge a composée la nuit avant que le groupe ne reprenne les sessions de The Joshua Tree . Dans une pièce à l'étage de Melbeach House, sa maison nouvellement achetée, il a utilisé un magnétophone à quatre pistes pour enregistrer un arrangement de claviers, basse, guitare et boîte à rythmes. L'arrangement, avec deux décalages de signature rythmique et de fréquents changements d'accords, a été répété plusieurs fois, mais le groupe a eu du mal à obtenir une performance qu'ils aimaient. "Where the Streets Have No Name" est joué dans la tonalité de ré majeur à un tempo de 126 battements par minute. La mise en place et outro sont joués dans un3-4 signature rythmique , tandis que le reste de la chanson est dans un4-4Signature. La chanson s'ouvre avec une section instrumentale, commençant par des notes de synthétiseur soutenues comme un choral . La guitare s'estompe après 40 secondes ; cette partie se compose d'un arpège répété de six notes "sonnant" . Un effet de délai « croche pointée » est utilisé pour « jouer » chaque note de l'arpège deux fois, créant ainsi un son riche. La basse et la batterie entrent à 1:10.
L'introduction, à la suite d'une progression d'accords I-IV-I-IV-vi-V-I , crée un « mur de sons », comme décrit par Mark Butler, contre lequel les voix émergent après près de deux minutes. La partie de guitare jouée pour le reste de la chanson présente The Edge grattant des seizièmes croches percussifs. La basse et la batterie continuent respectivement dans des croches et des doubles croches régulières, tandis que la performance vocale de Bono, en revanche, varie considérablement dans son timbre (« il soupire ; il gémit ; il grogne ; il expire de manière audible ; il permet à sa voix de craquer » ) ainsi que le timing par son utilisation du rubato pour légèrement décaler les notes qu'il chante du rythme.