Tirpitz se je rodil v Küstrinu (zdaj Kostrzyn nad Odrą, Poljska) v provinci Brandenburg, Prusija. Leta 1865 se je pridružil pruski mornarici in bil udeležen v francosko-pruski vojni 1870–71. Po vojni je opravljal različne štabne funkcije in poveljstva ter napredoval po poklicih.
Leta 1897 je bil Tirpitz imenovan za državnega sekretarja cesarske mornarice , ki je nasledil admirala Friedricha von Hollmanna. Takoj se je lotil uresničevanja svojih ambicioznih načrtov o širitvi nemške mornarice, saj je verjel, da je močna mornarica bistvenega pomena za nacionalno varnost in gospodarsko blaginjo Nemčije.
Pod Tirpitzovim vodstvom, nemška mornarica je hitro rasla. Povečalo se je število bojnih ladij in križark, uvedene so bile nove vrste vojnih ladij, kot so podmornice in rušilci. Tirpitz je nadzoroval tudi gradnjo mreže mornariških baz in pristanišč.
Tirpitzov program širitve mornarice obremenila nemške vire in povzročila napetosti z Britanijo, ki se je počutila ogroženo zaradi rasti nemške mornarice. Leta 1906 je Velika Britanija splovila Dreadnought, revolucionarno novo vrsto bojne ladje, zaradi katere so bile vse obstoječe bojne ladje zastarele. Tirpitz se je odzval tako, da je ukazal gradnjo novega razreda bojnih ladij, razreda Nassau, ki so bile oborožene z močnejšimi topovi in debelejšim oklepom kot Dreadnought.
Anglo-nemška pomorska oboroževalna tekma se je nadaljevala do izbruha prve svetovne vojne leta 1914. Nemška mornarica pod Tirpitzovim poveljstvom je igrala pomembno vlogo v vojni, vendar jo je na koncu premagala kraljeva mornarica.
Po vojni se je Tirpitz upokojil iz mornarice in vstopil v politiko. Od leta 1924 do 1928 je bil poslanec v Reichstagu in je bil glasen kritik Weimarske republike. Tirpitz je umrl v Ebenhausnu na Bavarskem leta 1930.
Tirpitz ostaja kontroverzna osebnost. Nekateri ga občudujejo zaradi njegove daljnovidnosti in odločnosti pri izgradnji nemške mornarice, kritizirajo pa ga tudi zaradi njegove vloge v anglo-nemški pomorski oboroževalni tekmi in izbruhu prve svetovne vojne.