Yildirim erkjente nederlaget mens stemmene fortsatt ble talt søndag kveld.
– Sånn det er nå, leder min rival Ekrem Imamoglu i valget. Jeg gratulerer ham og ønsker ham suksess, sa han i en kort TV-sendt uttalelse.
Det var Imamoglu som vant det første ordførervalget i slutten av mars. Men det konservative tyrkiske regjeringspartiet AKP, som har islamistiske røtter, mente det hadde forekommet uregelmessigheter.
Valgkommisjonen erklærte først Imamoglu som vinner, men bøyde seg etter hvert for AKPs krav om omvalg.
Valget ble på forhånd ansett som en test av president Recep Tayyip Erdogans popularitet i en tid der landet opplever store økonomiske problemer, høye matpriser og stor arbeidsledighet.
