Nach dem Rücktritt Bismarcks berief ihn Kaiser Wilhelm II. am 20. März 1890 zum Reichskanzler und preußischen Ministerpräsidenten. Caprivi schloss 1890 mit Großbritannien den Helgoland-Sansibar-Vertrag, erzielte mit der Erneuerung des Dreibundes und dem Abschluss der Handelsverträge 1891 einen bedeutenden Erfolg, worauf er am 18. Dezember in den Grafenstand erhoben wurde. Als 1892 der Zedlitzsche Volksschulgesetzentwurf, für den Caprivi entschieden eingetreten war, fiel, trat er als preußischer Ministerpräsident zurück und blieb bloß preußischer Minister des Auswärtigen. 1893 setzte er im Reichstag die Militärvorlage durch, erfuhr aber seit dem Abschluss des Handelsvertrags mit Russland seitens der konservativen Agrarier heftige Angriffe und erhielt wegen Meinungsverschiedenheiten über das „Umsturzgesetz“ am 26. Oktober 1894 die Entlassung. Er lebte still in Skyren und lehnte die Anregung, Denkwürdigkeiten auszuzeichnen, ab. Leo von Caprivi starb am 6. Februar 1899 auf Gut Skyren (Brandenburg, Reg.-Bez. Frankfurt).
Nachfolger Georg Leo Graf von Caprivis im Amt des Reichskanzlers wurde Chlodwig Fürst zu Hohenlohe-Schillingsfürst (1819-1901).
Die „Reden des Grafen von Caprivi 1883–1893“ mit Biographie gab R. Arndt heraus (Berlin 1894).