Nagranie znajdzie się wśród dwunasty innych kompozycji na drugim albumie Florence And The Machine, który powinien ukazać się w listopadzie. Utwór dostępny jest na FlorenceAndTheMachine.net.

Tytuł „What The Water Gave Me” wziął się od obrazu meksykańskiej malarki Fridy Kahlo. Dla wokalistki Florence Welch inspirująca była także śmierć pisarki Virginii Woolf, która napełniła swoje kieszenie kamieniami i rzuciła się do rzeki.