A candidata de Erdogan, Binali Yildirim, já admitiu sua derrota.
"De acordo com o resultado, a partir de agora meu concorrente Ekrem Imamoglu está liderando a corrida. Eu o parabenizo e desejo boa sorte a ele", disse Yildirim.
Com 95% dos votos apurados, Imamoglu tem 53,69% dos votos.
Imamoglu, um prefeito pouco conhecido prefeito distrital até o inicio do ano, classificou a nova eleição como um teste para a democracia turca depois que sua primeira vitória, em março, foi desconsiderada.
As autoridades eleitorais anularam o resultado depois que Erdogan alegou irregularidades na contagem - mas isso galvanizou Imamoglu, que prometeu "uma batalha pela democracia" para ser prefeito da cidade de 15 milhões de habitantes.
Críticos dizem que Erdogan estava simplesmente relutante em abrir mão do controle de Istambul, que é a cidade mais rica do país e importante fonte de apoio para os conservadores islâmicos. O próprio Erdogan foi prefeito da cidade há 25 anos.
Imamoglu, que representa o secular Partido Popular Republicano, disse após votar no domingo: "Hoje nosso povo tomará a melhor decisão... em prol da nossa democracia, de Istambul e também da legitimidade de todas as futuras eleições".
Sua mensagem otimista, sob o slogan "Tudo ficará bem", contrastou com os costumeiras práticas agressivas da política turca e tocou os eleitores.
Mas ele enfrentou o poder do AKP, que governa a Turquia desde 2002 e continua sendo a força política mais popular em todo o país graças a anos de crescimento dramático e o apoio de religiosos conservadores que antes não participavam da vida pública.
Yildirim, um lealista moderado de Erdogan que supervisionou vários grandes projetos de transporte e serviu como primeiro-ministro, já havia assumido um tom conciliatório no início do domingo.
"Se tivermos errado, consciente ou inconscientemente, um dos nossos colegas de Istambul ou nossos adversários, se tivermos feito algo injusto, peço-lhe perdão", disse ele.
