Diplômé de l'ENA, il exerce une première expérience au sein du secteur public dans les services de l’Etat, collectivités locales puis en cabinets ministériels. En 2014, Il rejoint la SNCF au poste de Directeur de la Stratégie et de la Transformation du groupe SNCF. Depuis avril 2021, Raphaël Poli est Président de SNCF Retail & Connexions et membre du Comité Exécutif.

En janvier 2024, il devient Directeur général adjoint de SNCF Gares & Connexions en plus de ses fonctions de Président de SNCF Retail & Connexions. La Direction de l’architecture et de l’environnement, le cabinet et la direction internationale lui sont également rattachés.