Die Story von Mafia II beginnt mit dem italienischen Kleinkriminellen Vito Scarletta. Noch einige Jahre vor Beginn des Spiels wurde er von der Polizei geschnappt und man ließ ihm die Wahl zwischen dem Gefängnis und dem Militärdienst. Er entschied sich für den Kriegsdienst in Europa und kehrte im Februar 1945 unverwundet zurück in die Stadt Empire Bay. Von nun an schlüpft der Spieler in die Rolle des 20 Jahre alten Vito Scaletta, der als Sohn eines armen Immigranten sich nun auf der Suche nach dem amerikanischen Traum von Wohlstand und Macht befindet. Dabei verlässt er sich auf seinen Kindheitsfreund Joe Barbaro, der ihn neue Wege beschreiten lässt und ihn so wieder auf die schiefe Bahn bringt. Bald darauf befindet sich Vito in den Fängen der Unterwelt und beginnt seine Karriere als berüchtigter Gangster der Mafia Familie.
