Il arriva au FC Barcelone le 28 juin 1984 en provenance du Gimnastic de Manresa.
A partir de 1991, Johan Cruyff le sélectionne comme milieu central de l'équipe première. Il s'adapta immédiatement à ce rôle malgré sa jeunesse, et pendant plusieurs années il fut le "chef d'orchestre" de l'équipe communément appelée la Dream Team. Lors du départ à la retraite de José Mari Bakero il devint le capitaine de l'équipe. À partir de ce moment il apparut comme étant le symbole et la référence footballistique du Barça.
Depuis ses débuts, Pep s'est distingué grâce à son extraordinaire vision de jeu et son grand contrôle du ballon. Ces qualités ajoutées à son grand charisme et à sa personnalité lui servirent pour s'ériger comme leader de son équipe sur le terrain de jeu.
Le 20 mai 1992, il gagna avec la Dream Team la première Coupe d'Europe du Barça. Il s'en suivra un nouveau titre de Champion d'Espagne. En 1992, il est également champion olympique avec l'équipe d'Espagne aux Jeux de Barcelone et il remporte le Trophée Bravo de meilleur jeune joueur européen.
Guardiola gagna le championnat d'Espagne en 1993 et 1994 mais ce furent deux saisons un peu décevantes au niveau européen avec une élimination précoce en Ligue des Champions et une finale perdue 4-0 l'année suivante contre le Milan AC. Après le départ de Johan Cruyff en 1996, Guardiola continua à être une pièce essentielle du jeu du Barça qui remporta le championnat d'Espagne lors des saisons 1997-98 et 1998-99 sous les ordres de Louis Van Gaal avec un jeu plus efficace mais moins spectaculaire.
Une grave blessure survenue le 31 août 2000 le tient plusieurs mois en dehors des terrains. Il rata les Mondiaux 1998 en France et 2002 en Corée du Sud et au Japon à cause de blessures récurrentes.
Guardiola quitta le FC Barcelone le 11 avril 2001, après 379 matchs joués (224 victoires, 82 matchs nuls et 73 défaites) et un palmarès impressionnant.
Après avoir quitté Barcelone il signa un contrat avec l'AS Roma de Fabio Capello; avec lequel il ne joua que cinq matches, n'entrant pas dans les plans de l'entraîneur. Pour cette raison, il quitta Rome pour le club de Brescia où il fit partie du club de la grande époque avec Roberto Baggio.
En novembre 2001 il fut contrôlé positif à un test anti-dopage et condamné à sept mois de prison et quatre mois de suspension. Quelques mois plus tard il est relaxé pour des raisons médicales. Il est acquitté en appel en 2007.
En 2003, il fut engagé par le club d'Al Ahly, au Qatar. Il y découvrit une nouvelle culture, rencontra des stars comme Gabriel Batistuta ou Claudio Caniggia et fut notamment élu meilleur joueur étranger lors de sa première saison.
Après ses années au Qatar, Guardiola commença à prendre des cours d'entraîneur licencié. Il refusa les offres de clubs comme Manchester City et Wigan afin de partir au Dorados de Sinaloa rejoindre l'entraîneur et ami Juan Manuel Lillo. Cependant il ne joua que le tournoi de clôture de la saison 2006.
Il retourna à Madrid afin de terminer son cursus et obtint en juillet 2006 le titre d'entraîneur de football. Le 15 novembre 2006 il annonça officiellement la fin de sa carrière de joueur et le 21 juin 2007 le staff du Barça le choisit comme entraîneur de l'équipe du Barça B.
Pep Guardiola disputa 46 rencontres et marqua cinq buts. Il disputa son premier match officiel le 14 octobre 1992, contre l'Irlande du Nord. Il joua sous le maillot espagnol jusqu'en 2001, notamment lors du Mondial 1994 et l'Euro 2000. Avec l'équipe d'Espagne olympique, Pep Guardiola a remporté la médaille d'or aux Jeux Olympiques de Barcelone en 1992.
- 1990-2001 : FC Barcelone ( Espagne)
- 2001-2002 : Brescia ( Italie)
- 2002 : AS Rome ( Italie)
- 2003 : Brescia ( Italie)
- 2003-2005 : Al Ahly Doha ( Qatar)
- 2006 : Dorados de Sinaloa ( Mexique)
Après l'obtention de sa licence d'entraîneur en 2006, Pep Guardiola a été choisi en juin 2007 par le staff du Barça pour entraîner l'équipe B (le FC Barcelona Atlètic) qui jouait en Troisième division. Guardiola lors de cette première saison comme entraîneur parvient à faire monter l'équipe en Segunda División B. Au cours de cette saison 2007-08 des rumeurs sur le nom du remplaçant de Frank Rijkaard circulent et Pep Guardiola fut un des noms les plus fréquemment cités avec notamment José Mourinho, Michael Laudrup et Laurent Blanc.
Le 8 mai 2008, le président Joan Laporta le nomme pour prendre les rênes de l'équipe première du Barça, remplaçant ainsi Frank Rijkaard à la suite de la débâcle 4-1 face au Real Madrid lors du clásico et des mauvais résultats au cours de l'exercice 2007-08. Cette nomination survient malgré le bon parcours de l'équipe sous l'ère Rijkaard notamment avec deux Ligas et une Ligue des champions. La nomination de Guardiola à ce poste n'est pas étonnante. En effet Laporta, afin de rétablir sa popularité, avait besoin d'un homme qui aurait toute la confiance des socios afin de régler la crise; Guardiola, encore auréolé de son prestige de joueur légendaire de la Dream Team de Johan Cruyff, est l'homme idéal. Lors de sa nomination, certains journalistes et supporters pensaient que Guardiola était encore inexpérimenté pour prendre les commandes d'une équipe comme le Barça. La suite des événements leur donnera tort.
Pour sa première saison à la tête de la première équipe du FC Barcelone, Guardiola a conquis le titre honorifique de champion d'automne du Championnat d'Espagne de football, avec le plus grand total de points de l'histoire du championnat après 19 journées (50 points). Le 2 mai 2009, Pep Guardiola mène le FC Barcelone à une victoire historique par 6 à 2 sur le terrain du Real Madrid, consolidant ainsi la première place au classement de la Liga.
En Ligue des Champions, le Barça de Guardiola se qualifie sans difficulté pour les huitièmes de finale où il affronte l'Olympique lyonnais. Le match aller se solde par un match nul (1-1), mais au Camp Nou le Barça l'emporte largement (5-2). En quarts de finale, le Barça réussit à éliminer le Bayern de Munich pour la première fois de son histoire grâce à une démonstration au match aller, conclue sur le score de 4 à 0. En demi-finale, le Barça se qualifie au dépens du FC Chelsea (0-0 à l'aller et 1-1 au match retour). Pep Guardiola eut l'audace lors du match retour en Angleterre de placer le milieu de terrain Touré Yaya au poste de défenseur central, poste auquel il n'avait jamais joué auparavant.
Le 13 mai 2009 à Valence, Pep Guardiola remporte son premier titre comme entraîneur : la Coupe du Roi lors d'une victoire par 4 à 1 en finale face à l'Athletic Bilbao. Trois jours plus tard, le 16 mai, le FC Barcelone remporte le championnat d'Espagne pour la dix-neuvième fois de son histoire. Clôturant la saison en majesté, il remporte avec le Barça la Ligue des Champions, à Rome, le 27 mai 2009, en gagnant la finale face à Manchester United par 2-0 . Pep Guardiola, à 38 ans, intègre ainsi le cercle restreint de ceux qui ont remporté la Ligue des Champions aussi bien comme joueur que comme entraîneur, après Miguel Muñoz, Giovanni Trapattoni, Johan Cruyff, Carlo Ancelotti et Frank Rijkaard. Trois de ces six personnages étaient les entraîneurs du FC Barcelone (Cruyff en 1992, Rijkaard en 2006, Guardiola en 2009). De plus, il est le plus jeune entraîneur à avoir remporté la Ligue des Champions.
Le 23 août 2009, Pep Guardiola mène le FC Barcelone à un nouveau succès en remportant la Supercoupe d'Espagne face à l'Athletic Bilbao. Quelques jours après, le 28 août, le Barça de Guardiola remporte à Monaco la Supercoupe de l'UEFA en battant le Shakhtar Donetsk par 1 à 0. C'est le cinquième titre de l'ère Guardiola. Le sixième titre de l'année 2009 est remporté le 19 décembre à l'occasion de la Coupe du monde des clubs contre Estudiantes de la Plata. Aucun entraîneur avant Josep Guardiola n'avait gagné autant de trophées en si peu de temps.
Le 23 janvier 2010, le FC Barcelone boucle le premier tour de la Liga en leader invaincu pour la première fois de son histoire (15 victoires, 4 nuls).
Le 10 avril 2010, Pep Guardiola devient le premier entraîneur du FC Barcelone qui réussit à gagner deux fois de suite sur le terrain du Real Madrid : après le 6-2 historique de la saison passée, le Barça s'impose cette fois par 2-0 et reprend seul la tête du championnat. Le 16 mai 2010, Pep Guardiola remporte comme entraîneur son deuxième championnat d'Espagne d'affilée en battant au passage le record de points en une saison (99 points).