Le narrateur, un sémillant trentenaire, vient d'enterrer son père ; c'est alors qu'il rencontre Carole au cours d'un dîner chez une amie, Armelle. Une histoire d'amour déraisonnable et passionnée se noue entre Carole et le narrateur, qui se remémore quelques épisodes de la vie de son père, un marginal oisif, fantasque, mythomane et dépressif qui ratait tout avec une allégresse navrante. Vendeuse dans un magasin de vêtements chic, Carole ne rêve que de devenir chanteuse de variétés, un univers aux antipodes de celui du narrateur, pianiste, professeur au Conservatoire et compositeur méconnu.
Barcarolle trace le portrait d'un père absent et excessif et celui d'un fils qui n'a pas bien grandi et qui cherche sa voie. A travers les rapports parfois orageux entre un père et son fils, ce roman illustre les difficultés de bâtir un couple et les vicissitudes de la création musicale contemporaine.