Os sons da natureza o fascinaram desde pequeno. A partir de um cano de mamona de jerimum (abóbora), fazia um pífano e ficava tocando para os passarinhos. Ao ir para a lagoa, passava horas tocando com a água. O que sobrava de material do seu avô ferreiro, ele pendurava num varal e ficava tirando sons. Até o acordeão de 8 baixos de seu pai, de sete para oito anos, ele resolveu experimentar e não parou mais. Dessa forma, passou a tocar com seu irmão mais velho José Neto, em forrós e festas de casamento, revezando-se com ele no acordeão e no pandeiro.
Mudou-se para o Recife em 1950, e foi para a Rádio Tamandaré. De lá, logo foi convidado, com a ajuda de Sivuca (acordeonista conhecido), para integrar a Rádio Jornal do Commercio, onde José Neto já estava. Formaram o trio O Mundo Pegando Fogo e, segundo Hermeto, ele e seu irmão estavam apenas começando a tocar acordeão, ou seja, eles só tocavam o acordeão de 8 baixos até então.
Porém, por não querer tocar pandeiro e sim acordeão, foi mandado para a Rádio Difusora de Caruaru, como refugo, pelo diretor da Rádio Jornal do Commercio, o qual disse-lhe que "não dava para a música". Ficou nessa rádio em torno de três anos. Quando Sivuca passou por lá, fez muitos elogios sobre o Hermeto ao diretor dessa rádio, o Luís Torres, e Hermeto, por conta disso, logo voltou para a Rádio Jornal do Commercio, em Pernambuco, ganhando o que havia pedido, a convite da mesma pessoa que o tinha mandado embora. Ali, em 1954, casou-se com Ilza da Silva, com quem viveu 46 anos e teve seis filhos: Jorge, Fabio, Flávia, Fátima, Fabiula e Flávio. Foi nessa época também que descobriu o piano, a partir de um convite do guitarrista Heraldo do Monte, para tocar na Boate Delfim Verde. Dali, foi para João Pessoa, onde ficou quase um ano tocando na Orquestra Tabajara, do maestro Gomes.
Em 1958, mudou-se para o Rio de Janeiro para tocar acordeão no Regional de Pernambuco do Pandeiro (na Rádio Mauá) e, em seguida, piano no conjunto e na boate do violinista Fafá Lemos e, em seguida, no conjunto do Maestro Copinha (flautista e saxofonista), no Hotel Excelsior.
Atraído pelo mercado de trabalho, transferiu-se para São Paulo em 1961. Depois de um tempo, formou, juntamente com Papudinho no trompete, Edilson na bateria e Azeitona no baixo, o grupo Som Quatro . Foi aí que começou a tocar flauta. Com esse grupo gravou um LP. Em seguida, integrou o Sambrasa Trio, com Cleiber no baixo e Airto Moreira na bateria. No disco do Sambrasa Trio, Hermeto já registrou sua canção Coalhada.
Com o florescimento dos programas musicais de TV, criaram o Quarteto Novo, em 1966, sendo Hermeto no piano e flauta, Heraldo do Monte na viola e guitarra, Théo de Barros no baixo e violão e Airto Moreira na bateria e percussão. O grupo inovou com sua sonoridade refinada e riqueza harmônica, participando dos melhores festivais de música e programas da TV Record, representando o melhor da música brasileira. Nessa época, venceram um dos festivais com Ponteio, de Edu Lobo. Além disso, Hermeto ganhou várias vezes como arranjador. No ano seguinte gravou o LP Quarteto Novo, pela Odeon, onde registrou suas composições O Ovo e Canto Geral.
Em 1969, a convite de Flora Purim e Airto Moreira, viajou para os Estados Unidos e gravou com eles dois LP, atuando como compositor, arranjador e instrumentista. Nessa época, conheceu Miles Davis e gravou com ele duas músicas suas: Nem Um Talvez e Igrejinha.
Com o nome já reconhecido pelo talento, pela qualidade e por sua criatividade, tornou-se, juntamente com seu grupo, a atração de diversos eventos importantes, como o I Festival Internacional de Jazz, em 1978, em São Paulo, contando com a participação de Chick Corea , John McLaughlin e Stan Getz, que fizeram questão de dar uma "canja" com o grupo.
No ano seguinte, participou do '''Festival de Montreux''', na Suíça,onde seu trabalho com o grupo foi ovacionado, resultando num álbum duplo Hermeto Pascoal Montreux ao vivo, com participação do musico Nivaldo Ornellas. Seguiu para Japão, onde se apresentou com o grupo no festival Live Under the Sky, com a participação de Sadao Watanabe. Em 1979 Hermeto e grupo participam de uma tournê pela Argentina ( teatro Nacional e estádio "Obras sanitárias") e sul do Brasil, juntamente com Dizzy Gillespie. Tocou em vários festivais no Brasil , como no festival de verão do Guarujá no inicio de 1980.
Em março desse mesmo ano, os músicos Cacau de Queiroz e Nenê deixam o grupo e Hermeto renova sua formação;entram Marcio Bahia e Carlos Malta. Lançou o Cérebro Magnético em 1981 e multiplica suas apresentações pela Europa.
Compôs ainda a Sinfonia em Quadrinhos, apresentando-se com a Orquestra Jovem de São Paulo. Em seguida, foi para Copenhague, nde lançou a Suíte Pixitotinha, que foi executada pela orquestra sinfônica local, em concerto transmitido via rádio para todo o Rio de Janeiro.
Em 1987, lançou mais um LP, Só Não Toca Quem Não Quer, em que homenageia jornalistas e radialistas como reconhecimento pelo seu apoio ao longo da carreira. Em 1989, fez seu primeiro disco de piano solo, o LP duplo Por Diferentes Caminhos.
Em 1992, já pela Philips, gravou com seu grupo o Festa dos Deuses. Depois do lançamento, viajou à Europa para uma série de concertos na Alemanha, na Suíça, na Dinamarca, na Inglaterra e em Portugal.
Em março de 1995, apresentou uma sinfonia no Parque Lúdico do Sesc Itaquera, em São Paulo, utilizando os gigantescos instrumentos musicais do parque. No mesmo ano foi a convite da Unicef para Rosário (Argentina), onde se apresentou para duas mil crianças, sendo que seu grupo entrou para tocar dentro da piscina montada no palco a pedido dele.
Em 1999 lançou o CD Eu e Eles, primeiro disco do selo Mec, no Rio de Janeiro. Neste CD produzido por seu filho Fábio Pascoal, Hermeto toca todos os instrumentos. Em 2003 lançou, com seu grupo, o CD Mundo Verde Esperança, também produzido por Fábio.
Em outubro de 2002, durante uma oficina em Londrina, conheceu a cantora Aline Morena e a convidou para se apresentar no dia seguinte com o seu grupo em Maringá. Em seguida ela o acompanhou ao Rio de Janeiro e, no fim de 2003, Hermeto passou a residir com ela em Curitiba. Assim, passou a dar-lhe noções de viola caipira, piano e percussão e, em março de 2004 estreou no Sesc Vila Mariana a sua mais nova formação: o duo Chimarrão com Rapadura (gaúcha com alagoano), formado por Hermeto e Aline Morena.
Em abril de 2004, embarcou para Londres para o terceiro concerto com a big band local. Em seguida, realizou mais alguns espetáculos solo em Tóquio e Quioto.
Em 2005 gravou o CD e o DVD Chimarrão com Rapadura com Aline Morena, além de realizar duas grandes turnês com seu grupo por toda a Europa. O CD e o DVD de Hermeto Pascoal e Aline Morena foram lançados de maneira totalmente independente em 2006.
Atualmente, Hermeto Pascoal apresenta-se com cinco formações: Hermeto Pascoal e Grupo, Hermeto Pascoal e Aline Morena, Hermeto Pascoal Solo, Hermeto Pascoal e Big Band e Hermeto Pascoal e Orquestra Sinfônica.
Lançou em 2010 o CD Bodas de Latão, em duo com Aline Morena, comemorando sete anos de união na vida e na música. Esse CD contém duas faixas multimídia.
