Pepi II był synem Pepi I i Anchnesmerire II. Miał objąć tron po swoim bracie Merenre I w wieku 6 lat i panować przez kolejne 94 lata. Potwierdza to Manethon, papirus turyński i Catasterismi. Badacze nie potwierdzają tej wersji i mówią o około 70 latach panowania. Ze względu na młody wiek Pepiego II, początkowo władzę sprawowała jego matka Anchnesmerire I. Anchnesmerire I i Anchnesmerire II były córkami kupca Chui z Abydos, a jego syn Dżau był wezyrem Merenre I i Pepiego II.
Pepi II miał kilkanaście żon m.in. Neit, Iput II, Udżebten, Anchnespepi III i Anchnespepi IV. Za czasów jego panowania Egipcjanie eksploatowali złoża miedzi i turkusu na Synaju. Prowadzono również wyprawy do Nubii i rozwijano handel z południem. Pepi II prowadził wyprawy wojenne na tereny Libii, a w swojej piramidzie przedstawiony jest jako sfinks depczący przywódcę libijskiego wraz z jego rodziną.
Został pochowany w piramidzie w Sakkarze, a jego następcą został jego syn Merenre II.