Воспитанник французской композиторской школы, он прославился саундтреками к голливудским фильмам 1960-х годов "Доктор Живаго" и "Лоуренс Аравийский", а также лентой "Поездка в Индию" (1984). Эти работы принесли ему три премии "Оскар".
Всего музыкант за полвека карьеры написал музыку к полутора сотням фильмов. Романс из картины по нобелевскому роману Бориса Пастернака был очень популярен в Советском Союзе уже в 1960-е, несмотря на официальный запрет книги и фильма.
Продолжателями дела Жарра стали его сыновья - известный композитор электронных мегашоу Жан-Мишель Жарр и киносценарист Кевин Жарр.