Nos mesmos anos, ele também se tornou um conselheiro de confiança do Rei Luís IX e do Papa Urbano IV, que em 1261 o criou Cardeal Bispo de Sabina. Legado papal na Inglaterra para uma difícil mediação entre Henrique III e seus barões e a Igreja local, ele estava viajando em fevereiro de 1265 quando, após a morte de Urbano IV, o Colégio dos Cardeais, reunido em Perugia, o elegeu papa, talvez para agradar a Luís IX ou, mais provavelmente, para confiar a liderança da Igreja em um momento de grande dificuldade a um homem habilidoso e experiente. Guy deixou a França para ir para Roma. Clemente IV foi papa por aproximadamente 45 meses: tempo suficiente para que ele deixasse uma marca importante na história da Igreja. Ele se destacou por sua severa austeridade, bem como por seu extremo rigor moral e absoluta honestidade. Deve-se lembrar, por exemplo, que Clemente IV não se valeu de nenhuma forma de nepotismo, ao não criar cardeais durante seu pontificado, e que combateu duramente a corrupção. Governou os assuntos internos da Igreja com firmeza e determinação, defendendo a necessidade de que os benefícios eclesiásticos fossem reservados à Santa Sé e acabou sendo apontado como o verdadeiro fundador da tributação papal.

No dia 29 de Novembro de 1268, o Papa adoeceu repentinamente e faleceu, no meio da profunda comoção dos viterbanos, que o consideravam um homem superior, misticamente inspirado, isto é, morreu em odor de santidade. Foi sepultado inicialmente na Catedral de Viterbo, depois, como ele mesmo indicou, na igreja dominicana de Santa Maria in Gradi, num belo monumento funerário, obra do escultor Pietro di Oderisio.