Большую часть карьеры Херардо провёл в клубе «Ньюэллс Олд Бойз» из своего родного города Росарио. Рекордсмен клуба по количеству проведённых матчей во всех турнирах (505).

Также в 2003 году в результате опроса его признали лучшим игроком «Ньюэллс» за всю историю.

В феврале 2007 года он сменил в сборной Парагвая уругвайца Анибаля Руиса. На Кубке Америки сборная Парагвая в группе выступила неплохо, заняв второе место вслед за Аргентиной. Но в плей-офф, в первом же матче со сборной Мексики Парагвай потерпел сокрушительное поражение со счётом 0:6. В отборочном турнире на Чемпионат мира «гуарани» заняли третье место, после Бразилии и Чили. Также Херардо Мартино пригласил в сборную четырёх своих соотечественников, среди которых Нестор Ортигоса и Лукас Барриос. На ЧМ Парагвай занял первое место в группе и в 1/8 финала встречался с Японией. «Самураев» парагвайцы победили по пенальти 5:3 и впервые в своей истории вышли в четвертьфинал. 3 июля парагвайцы проиграли сборной Испании со счётом 0:1. После матча он сказал: «У нас были шансы, но мы не смогли воспользоваться ими». После окончания турнира Мартино продлил контракт со сборной на 4 года. После завершения Кубка Америки 2011, на котором Парагвай занял 2-е место, но при этом не выиграл ни одного матча, Херардо подал в отставку. Его сменил Франсиско Арсе.

23 июля 2013 года «Барселона» официально объявила о назначении Херардо Мартино на пост главного тренера. Контракт рассчитан на два года .