Sua fama e popularidade cresceram, não só devido à sabedoria, mas também pela humildade e a caridade que praticava com todos. Assim, foi eleito bispo de Colônia, em 999. Quando Oton III morreu, o imperador que o sucedeu, Henrique II, também acabou tornando-se admirador de Heriberto, apesar da oposição que lhe fez no início. Uma vez que o bispo Heriberto o consagrou rei sem nenhuma contestação. E por fim o novo rei Henrique II o chamou para ser seu conselheiro.

Então, a obra caridosa do bispo pôde então continuar. Os registros mostraram que, depois de fundar um hospital para os pobres, Heriberto visitava os doentes todos os dias, cuidando deles pessoalmente. Diz a tradição que, certa vez, houve na cidade uma grande seca, ficando sem chover por meses. O bispo comandou um jejum de três dias e, finalmente, uma procissão de penitência pedindo chuva aos céus. Como nem assim choveu, Heriberto comovido começou a chorar na frente do povo, culpando-se pela seca. Dizia que seus pecados é que impediam Deus de fazer misericórdia. Mas, um fato prodigioso aconteceu nesse momento, imediatamente o céu escureceu e uma forte chuva caiu sobre a cidade, durando alguns dias e pondo fim à estiagem.

Com fama de santidade ainda em vida, o bispo Heriberto morreu no dia 16 de março de 1021, numa viagem de visita pastoral à cidade de Deutz, onde contraiu uma febre maligna que assolava a população. Suas relíquias estão na catedral dessa cidade, na Colônia, Alemanha. Na igreja que ele mesmo fundou junto com o mosteiro ao lado, que foi entregue aos beneditinos.

Amado pelos fiéis a peregrinação à sua sepultura difundiu seu culto que se tornou vigoroso em toda a Europa, especialmente na Itália e na Alemanha, país de sua origem. Foi canonizado em 1227, pelo Papa Gregório IX que autorizou o culto à Santo Heriberto, já tradicionalmente festejado pelos devotos no dia 16 de março.