Yesterdays fa parte del loro quarto album in studio, Use Your Illusion II (1991), ed è inclusa anche nel Greatest Hits della Band. La canzone è molto melodica, ed ha inizio con il piano di Dizzy Reed. Fu scritta dal cantante Axl Rose, insieme a West Arkeen,Del James e Billy McCloud. Il testo parla delle tematiche dell'invecchiamento e di come con il passare del tempo, il mondo diventi sempre più privo di sorprese. In questa canzone inoltre, il testo tende a sottolineare come nascondersi nel passato, non aiuti a proseguire nella vita del presente.
