François Carrard comenzó su andadura en el COI en 1979 como asesor jurídico. Diez años más tarde, y nombrado por Juan Antonio Samaranch, entonces presidente, se convirtió en director general, cargo que desempeñó durante 14 años.
Cuando en 2003 dejó el COI, el suizo asesoró a varias federaciones internacionales, como las de natación (FINA), fútbol (FIFA) y boxeo (AIBA).
En 2021 integró el Comité de Reforma de la FINA, que recomendó cambios radicales en la gobernanza, que fueron aprobados en un Congreso General Extraordinario en diciembre, recuerda el portal 'Inside The Games'.
También fue miembro de la Fundación de Ética de la Federación Internacional de Gimnasia (FIG) en 2019.
Tras el escándalo de corrupción en el que se vio envuelta la FIFA y que desembocó en la caída de su presidente, Josep Blatter, y otros muchos dirigentes, François Carrard fue nombrado en 2016 presidente de su Comité de Reforma.