Iniciou sua carreira no programa "Show do Rádio na Joven Pan (Antiga Rádio Camanducaia)". Aos 15 anos já era característico no programa a participação de tipos e imitações.
Em 1979 foi para Rede Globo como redator de humor, fazendo também participações como humorista nos programas Chico City e Planeta do Homens.
Foi o primeiro humorista a substituir Chico Anysio no Fantástico com suas crônicas de humor. Participou ainda como cronista no Jornal da Globo. Em 1986, tornou suas crônicas ainda mais famosas com a participação na Copa do Mundo.
Em 1988, fez as últimas apresentações da buzina do Chacrinha antes da morte do velho Guerreiro. Nos anos 90, João Kleber teve dois especiais de humor na Rede Globo, com o título Ri - retrospectiva.
Ficando 5 anos ininterruptos em cartaz, João Kleber foi um dos recordistas de bilheteria e permanência em teatro no Rio de Janeiro, dirigido por Chico Anysio.
João Kleber é um dos humoristas mais requisitados por imprensas para fazer shows e convenções.
João Kleber ficou um ano em cartaz com grande sucesso com o show "O Riso", no teatro Maksoud Plaza, que hoje se encontra em cartaz no Rio de Janeiro no Teatro da Lagoa. Atualmente, João Kleber apresenta seu "Eu VI Na TV" que é um dos maiores ibopes na Rede TV!.