Фильм состоит из двух сюжетных линий, одна из которых предваряет, а другая продолжает сюжет первого фильма.
В одной из них повествуется о ранних годах жизни будущего главы одного из сильнейших мафиозных кланов Корлеоне — Вито Корлеоне. Вторая сюжетная линия продолжает сюжет первого фильма и рассказывает о сыне Вито Корлеоне — Майкле, который перенял в 50-е отцовское дело и стал главой семьи. Сцены обеих историй перемежаются между собой на протяжении всего фильма.