Desmit gadu vecumā J. Kruifs pievienojās Ajax jauniešu komandai, taču vēl vairākus gadus paralēli spēlēja arī beisbolu. Viņš tā arī nepabeidza skolu, pilnībā koncentrējoties futbolam. Jau 17 gadu vecumā, 15.11.1964., J. Kruifs Ajax sastāvā debitēja Nīderlandes augstākās līgas čempionātā Eredevisie. Šajā sezonā Ajax nacionālajā čempionātā ieņēma tikai 13. vietu, bet 1965. gada sākumā par Amsterdamas kluba galveno treneri kļuva Rinuss Mihelss (Rinus Michels), kura vadībā Ajax uzreiz kļuva par dominējošu spēku Nīderlandē, ar laiku gūstot izcilus panākumus arī Eiropā. Ajax rindās J. Kruifs aizvadīja deviņas sezonas (1964–1973), šajā laikā sešas reizes kļūstot par Nīderlandes čempionu. Trīs reizes pēc kārtas (1971–1973) Ajax izcīnīja Eiropas galveno kontinentālo trofeju Eiropas kausu (European Cup), J. Kruifam īpaši izceļoties 1972. gada finālmačā pret Milānas Inter, kur viņš guva abus vārtus (2:0).
1973. gada augustā J. Kruifs no Amsterdamas pārcēlās uz Spānijas klubu Barcelona, kur uzreiz pirmajā sezonā palīdzēja Katalonijas pārstāvjiem pēc 13 sezonu pārtraukuma izcīnīt Spānijas čempionu titulu. Barcelona rindās J. Kruifs aizvadīja piecas sezonas (1973–1978), vēl vienu reizi izcīnot arī Spānijas kausu (1978).
19 gadu vecumā, 07.09.1966., J. Kruifs debitēja Nīderlandes valstsvienībā Eiropas čempionāta atlases spēlē pret Ungāriju (2:2), uzreiz arī gūstot vārtus, taču Nīderlande nekvalificējās finālturnīram. Nīderlandes izlase netika arī uz 1970. gada Pasaules kausa un 1972. gada Eiropas čempionāta finālturnīru. Toties 1974. gadā Pasaules kausa finālturnīrā Vācijas Federatīvajā Republikā (VFR) Nīderlandes izlase pārliecinošā stilā aizkļuva līdz finālam, kur Minhenē ar 1:2 piekāpās laukuma saimniekiem vāciešiem. Nīderlandes izlases kapteinis J. Kruifs bija šā čempionāta spilgtākais spēlētājs, gūstot trīs vārtus. Pēc diviem gadiem Nīderlandes izlase izcīnīja bronzas medaļas Eiropas čempionātā, Euro 1976 pusfinālā papildlaikā ar 1:3 zaudējot Čehoslovākijai, bet spēlē par trešo vietu papildlaikā ar 3:2 pārspējot turnīra rīkotājus Dienvidslāviju. J. Kruifs palīdzēja Nīderlandei iegūt ceļazīmi uz 1978. gada Pasaules kausa finālturnīru, taču 1977. gada oktobrī viņš negaidīti pārtrauca spēlēt valstsvienībā. Kopumā Nīderlandes izlasē J. Kruifs aizvadīja 48 mačus, gūstot 33 vārtus.
1978. gada jūnijā J. Kruifs paziņoja par futbolista karjeras beigšanu, pievēršoties uzņēmējdarbībai, taču cieta lielus finansiālos zaudējumus, tāpēc pēc nepilna gada atsāka spēlēt futbolu, dodoties uz Ziemeļamerikas profesionālo līgu NASL (North American Soccer League), kur vispirms vienu sezonu spēlēja Los Angeles Aztecs (1979), bet tad – Washington Diplomats (1980). 1981. gada sākumā J. Kruifs uz dažiem mēnešiem pievienojās Spānijas otrās līgas klubam Levante, bet gada izskaņā atgriezās dzimtajā Ajax komandā, vēlāk vēl divreiz kļūstot par Nīderlandes čempionu (1982–1983). Ņemot vērā, ka 1983. gada vasarā Ajax vairs nepiedāvāja J. Kruifam pagarināt līgumu, amsterdamiešu ievērojamais spēlētājs pārgāja pie Ajax principiālākajiem konkurentiem Feyenoord, palīdzot Roterdamas klubam izcīnīt pirmo valsts čempionu titulu desmit gadu laikā. Lai gan J. Kruifs tika atzīts par Nīderlandes sezonas labāko futbolistu, 1984. gada maijā 37 gadu vecumā viņš beidza futbolista karjeru.