A história, a princípio, acompanha os eventos de "O Poderoso Chefão Parte II", depois que Vito Corleone morre e seu filho Michael se torna o novo Don. Os planos da família se voltam para uma expansão das atividades relacionadas a cassinos e jogos de azar em Las Vegas e outras regiões, por intermédio do gângster judeu Hyman Roth, que marca um encontro em Cuba. O plano é montar um esquema de jogatina também naquele país, com o apoio do então ditador Fulgêncio Batista, mas com a rebelião de Fidel Castro, todos são obrigados a fugir desesperadamente da ilha - e Michael acaba descobrindo que Roth planejou assassiná-lo com a ajuda de seu próprio irmão Fredo.

Neste ponto a história do videogame se intromete, colocando Aldo, o protagonista do primeiro jogo, junto aos Corleone em Havana. Durante a fuga, ele acaba morrendo, forçando Michael a apresentar o novo personagem jogável da série, Dominic, que passa a cuidar dos negócios de Aldo em Nova York enquanto o resto da família se volta para os problemas em outras cidades como Vegas e Miami.

Apesar de Manhattan continuar como o centro das atividades, desta vez o jogador não ficará limitado a apenas uma localidade e poderá fazer "visitas estratégicas" em Miami e Havana, para expandir os negócios. A idéia de controlar territórios continua, mas ampliada, com a possibilidade de se focar em ramos específicos, que dão bônus especiais - por exemplo, se a sua família tomar posse de vendas de armas, terá acesso a munições extras ou armas diferentes.

Os holofotes desta continuação foram virados para este lado de gerenciamento. Um exemplo da abordagem mais ampla é a possibilidade de contratar e dar ordens a vários capangas, posicionando-os em locais estratégicos. Seus homens também têm personalidades bem delineadas, com históricos e 12 classes distintas, como espancador, demolidor, incendiário, médico, arrombador de cofres ou engenheiro, e ganham experiência a cada trabalho, melhorando seus atributos. Há recompensas em realizar trabalhos bem feitos, a exemplo de sucessos em missões de sabotagem, como arruinar uma reunião ou plantar evidências que incriminem os rivais, colocando-os na cadeia por algum tempo e deixando a área livre.

Para visualizar o mapa e ter noção da localização de seus territórios e soldados, há um novo modo que lembra jogos de estratégia de tabuleiro chamado Don's Vision. Ali é possível não só ver como estão as coisas, mas também planejar novas ações.