Atuando como volante, Mascherano foi formado nas categorias de base do River Plate. Ganhou fama e foi convocado para a Seleção Argentina em diversas oportunidades, sendo campeão olímpico nas Olimpíadas de Atenas, em 2004 e nas Olimpíadas de Pequim em 2008.
Foi contratado, então, pelo Corinthians no meio da temporada de 2005 e fez sua estréia na vitória válida pelo Campeonato Brasileiro de 2005 sobre o rival Palmeiras por 3 a 1, em 10 de julho, com uma elogiada atuação. Apesar da badalada contratação, a passagem de Mascherano pelo Corinthians foi apenas discreta. Passou longo tempo inativo por causa de uma lesão e deixou de atuar em várias ocasiões pelo clube paulista devido a seguidas convocações para a Seleção Argentina.
Em 2006 foi contratado por empréstimo, junto ao West Ham United, juntamente com o seu companheiro Carlos Tévez.
Conhecido como "Chefinho", sofreu uma grave fratura no pé e apenas voltou a jogar em 2006. Atuando de maneira eficiente foi convocado para a Copa do Mundo de 2006, sendo apontado como uma das maiores promessas da mesma.
Em 2007, se transferiu do West Ham United para o Liverpool, onde já na primeira entrevista cometeu uma gafe, chamando o Liverpool de Red Devils, apelido do rival Manchester United.