Prima di entrare in politica, Josep Borrell è stato Professore e titolare della cattedra di analisi economica presso la facoltà di economia dell'università Complutense di Madrid. È stato eletto per la prima volta come consigliere locale nel 1979. Nel 1982 è diventato Ministro dell'Economia e delle Finanze fino al 1984, quando è stato nominato Segretario di Stato per le Finanze (1984-1991). Dal 1991 al 1996, è stato Ministro dei Lavori Pubblici, dei Trasporti, delle Telecomunicazioni e dell'Ambiente. È stato membro del Parlamento spagnolo fino al 2003. Successivamente è stato Presidente della Commissione per lo Sviluppo (2007-2009), Presidente dell'Istituto Universitario Europeo di Firenze (2010-2012), titolare della cattedra Jean Monnet di Integrazione Economica Europea presso l'Università Complutense di Madrid (2013-2016), e Ministro degli Affari Esteri dell'Unione Europea e della Cooperazione con la Spagna (2018-2019).

Josep Borrell ha ricevuto numerose onorificenze, tra cui la Legion d'onore nel 2015, la medaglia spagnola dell'Ordine al merito costituzionale nel 2011 e la Gran Croce dell'Ordine del sole del Perù nel 2019.

Ha conseguito una laurea in ingegneria aeronautica, un master in economia energetica presso l'Institut Français du Pétrole di Parigi, un master in ricerca operativa presso la Stanford University in California e un dottorato in scienze economiche.