Robert Sarah nació en 1945 en Ourous en Guinea en el seno de una familia animista, se convirtió al catolicismo de joven, entrando en el Seminario de Bingerville, en Costa de Marfil. Al independizarse Guinea y convertirse en un estado independiente, los seminaristas guineanos regresaron a su nuevo país y entraron en el Seminario de Dixinn en 1960, pero solo por un año, ya que en 1961, el Partido Democrático de Guinea nacionalizó todas las escuelas católicas privadas, incluyendo el seminario en Dixinn. Después de obtener un título de bachiller, fue enviado a Francia para estudiar en el Seminario Mayor de Nancy, pero debido a las tensas relaciones políticas entre Francia y Guinea tuvo que abandonarlo. En 1968 fue enviado a Sebikotane en Senegal para proseguir allí sus estudios teológicos. En 1969 es enviado a Roma para continuar sus estudios en la Pontificia Universidad Gregoriana obteniendo el máster en Sagrada Teología. Dos años más tardes es enviado al Instituto Bíblico Franciscano de Jerusalén , donde se doctora en Sagrada Escritura, regresando a Guinea en 1974.
Fue nombrado arzobispo metropolitano de Conakri en 1979 contando por entonces solo 34 años. Estuvo como ordinario de la arquidiócesis de Conakri hasta su nombramiento por el papa Juan Pablo II como secretario de la Congregación para la Evangelización de los Pueblos en 2001.
En 2010, Sarah fue designado como presidente del Pontificio Consejo «Cor Unum», encargándose desde entonces de la coordinación de las organizaciones católicas de asistencia en todo el mundo. El entonces arzobispo Sarah fue el segundo africano nombrado por el papa Benedicto XVI para llevar un dicasterio de la Curia Romana, siendo nombrado presidente del Pontificio Consejo para la Justica y la Paz.
Ese mismo año, Benedicto XVI lo proclamó cardenal de San Juan Bosco en Vía Tuscolana. En 2021, durante un Consistorio presidido por el papa Francisco, es promovido a la Orden de los Presbíteros manteniendo la Diaconía elevada pro hac vice a título cardenalicio.
En los últimos años, Sarah ha participado y se ha expresado en la defensa de posturas tradicionalistas en la Iglesia, contrarias en ciertas ocasiones al papa Francisco.