Scholz blir sittende til en ny regjeringskoalisjon er på plass.
66-åringens parti Sosialdemokratene (SPD) får ifølge valgdagsmålingene historisk lav oppslutning i valget, med kun 16,5 prosent av stemmene.
De er det tredje største partiet, bak AfD som får nær 20 prosent av stemmene.
– Det er et bittert valgresultat for Sosialdemokratene, det er også et valgnederlag, sa Scholz på valgvaken kort tid etter at hans konkurrent, CDU-leder Friedrich Merz, erklærte valgseier.
Scholz fortsatte med å gratulere Merz med seieren: «Gratulerer med valgresultatet». CDU/CSU med Merz i spissen blir ifølge valgdagsmålingene størst i det tyske valget, med mellom 28,5 og 29 prosent av stemmene.
Merz skal stable på plass en ny koalisjon, men det er foreløpig knyttet stor usikkerhet til sammensetningen.
– Nå er det opp til andre å finne en måte å danne en regjering, sier Scholz, som lover å fortsette sine plikter som landets leder «fram til siste dag på kontoret».
Det kan imidlertid bli en stund før han må pakke sakene sine og forlate kontoret for godt. Det tok nemlig hele 73 dager da Scholz skulle stable sammen sin trepartikoalisjon i 2021.
Denne gangen har ekspert anslått at det kan ta lenger tid.
Les også: CDU-lederen erklærer valgseier – AfD gjør historisk godt valg