Sarasate studiò a Madrid e Parigi ed esordì come violinista a Londra a soli diciassette anni, iniziando da quel momento una carriera folgorante.

Aveva un repertorio brillante composto di capricci, parafrasi, danze e attingeva da temi popolari che variava. Anche le sue doti comunicative, unite ad una padronanza tecnica fuori del comune, concorsero alla sua fama che fu universale.

Tenne a battesimo e fu dedicatario di vari capisaldi della letteratura violinistica: tra cui la Symphonie Espagnole di Édouard Lalo(che gli dedicò numerosi altri suoi lavori), la Schottische Phantasie di Bruch (che gli dedicò anche il suo Concerto per violino e orchestra n. 2), Introduzione e Rondò Capriccioso e il Concerto per violino e orchestra n. 3 di Camille Saint-Saens (che a Sarasate aveva dedicato anche il suo Concerto per violino n. 1).

Suonò due violini Stradivari: il Boissier (1713, oggi di proprietà del Conservatorio Reale di Madrid) e il Sarasate (1724), che da lui ha preso il nome ed è oggi conservato alla Cité de la Musique di Parigi.

Come compositore scrisse opere virtuosistiche per violino, che sono tuttora presenti nel repertorio violinistico più comune.

Nato ad Haifa, Gitlis, fu presto notato da Bronisław Huberman che lo aiutò a trasferirsi a Parigi per studiare violino presso il locale Conservatoire con Jules Boucherit, dove a soli 13 anni vinse il Premier Prix quale miglior studente. Si perfezionò poi con Jacques Thibaud, Carl Flesch. Nel 1939 riparò in Inghilterra per sfuggire alle leggi razziali, e durante gli anni della seconda guerra mondiale visse a Londra.