Du point de vue du style, Rachmaninov n’est pas réellement un novateur : ses compositions restent fermement ancrées dans la tradition romantique, même s’il a tenté progressivement d’utiliser une palette harmonique un peu plus étendue. L'un de ses chefs-d'œuvre, L'Île des morts, est une exposition d'images sentimentales à l'état pur mettant en valeur des harmonies souvent riches, une ligne mélodique qui plonge l'auditeur dans le mystère existentiel du cœur et de la pensée, et une orchestration qui nous remet en mémoire le rôle joué par Berlioz dans l'histoire de la musique russe de la deuxième moitié du XIX.
Le style de Rachmaninov est très influencé, au début de sa carrière de compositeur, par Piotr Ilitch Tchaïkovski (dont la mort, en 1893, l'amène à composer son second trio élégiaque à la mémoire de son idole).
Il commence à trouver un style qui lui est propre lorsqu'il compose sa première symphonie : ses gestes puissants et sa force physique utilisée pour exprimer les nuances musicales sont sans précédent chez les compositeurs russes de l'époque. Il exprime dans cette symphonie une sobriété dans ses thèmes musicaux qu'il développe et affine avec le temps. Cette symphonie est accueillie de manière mitigée par le public, mais le style de Rachmaninov se développe tout de même dans ce que l'on pourrait qualifier d'un mélange équilibré entre concision et raffinement.
On retiendra de Rachmaninov, également, son usage d'accords très espacés : son Deuxième concerto pour piano, son Étude-tableau en mi bémol majeur et surtout son Prélude en si mineur.
Son style est également très marqué par les chants russes de la religion orthodoxe. Une grande partie de son matériau thématique (pour la composition de ses mélodies) est inspiré de ces chants. L'influence religieuse se retrouve également dans son emploi de la structure du {{langue|la|Dies iræ}} (notamment, sa Rhapsodie sur un thème de Paganini).
Une autre caractéristique du style musical de Rachmaninov est son usage du contrepoint chromatique (venant de son apprentissage auprès de Taneïev). Cette technique, datant du Moyen Âge, est magnifiée par Rachmaninov, qui l'utilise tant à petite échelle (tierces, ou quartes dissonantes) ou à grande échelle (douzième voire treizième pour certains de ses accords, que beaucoup de pianistes ne peuvent jouer faute d'avoir les mains assez grandes).
La dernière réplique de la pièce Oncle Vania d'Anton Tchekhov a inspiré Rachmaninov pour écrire Nous nous reposerons (26 3 : « My otdokhniom » en russe, « {{langue|en|We shall rest}} » en anglais).
