21歲時，加裡已經贏得了10場國內外的比賽。1956年，他贏得南非公開賽冠軍。奪冠後，父親給波比-瓊斯(Bobby Jones)和克利福德-羅伯茨(Clifford Roberts)寫了一封信，在信中，父親向這兩位德高望重的名人賽創史人解釋：他沒有錢派加裡到美國去參加比賽；但是如果能邀請加裡參加名人賽的話，我將在約翰內斯堡湊足這筆參賽費用。偉大的瓊斯在回信中只寫了一句話：『湊錢。』得到邀請後，加裡去了美國參加比賽。在美國的一年內，加裡贏得他的第一個美國巡回賽冠軍——1958年肯塔基公開賽(the 1958 Kentucky Derby Open.)，那年，在他參加的九場巡回賽賽事，並多次進入前十名。第二年，他來到歐洲戰場，他贏得了第一個大滿貫賽事冠軍。在英國公開賽上，他擊敗弗雷德布洛克(Fred Bullock)和弗洛裡(Flory van Donck)以兩杆優勢取得勝利，那年他纔23歲。從那以後，經常在比賽中穿黑色高爾夫球衫的加裡成了球場中的一道風景，也成了備受人們關注的『黑色騎士』。

　　加裡的擊球技術相當古怪，跟傳統球手截然不同，他依靠他的大力開球來彌補他身高的不足。盡管身體條件有種種不足，但加裡憑借在比賽中的頑強和天生好勝心，總能在比賽中創造奇跡。當然，加裡一直引以為豪的就是他完美的沙坑劈起球。在職業生涯中，加裡一直在完善他的技術。此外，著迷於擊球前的准備也是加裡最為明顯的特征之一。

　　球技越來越純熟的加裡迎來了他職業生涯的巔峰。1961年，在奧古斯塔斯國家球場，在這塊誕生過霍頓-史密斯(Horon Smith)、拜倫-納爾遜(Byron Nelson)的高球聖地上，加裡在贏得英國公開賽後，捧起了美國名人賽獎杯，成為第一個非美國籍球員贏得這項賽事的冠軍。在1962年的PGA錦標賽上，加裡又擊敗了尼克勞斯，以低於標准杆2杆的成績贏得了勝利。

　　在整個20世紀60年代，他和尼克勞斯、帕瑪一起並稱為世界高爾夫球壇的『三巨頭』，創造了不朽的高壇傳奇。從1961年到1974年，加裡在美國巡回賽上贏得17次比賽包括三次在不同十年裡問鼎英國公開賽(1959，1968，1974)，一次PGA錦標賽，兩次名人賽和一次美國公開賽。成為繼本-霍根、吉恩-薩拉森之後第三位贏得四大滿貫賽事的球手。此外，他還七次贏得澳大利亞公開賽，五次世界錦標賽，並且兩次在世界杯上取得個人的勝利。

　　在高壇，加裡-皮亞創造了一系列的神奇，他六十多年的運動生涯也創造了生命的奇跡。加裡卓越的高球纔能成了高爾夫運動的代名詞。到2002年為止，加裡不可思議地獲得了163場勝利，包括18場主要賽的冠軍，僅次於傑克-尼克勞斯的獲獎次數。但加裡還有機會改寫歷史。

　　如果說定律是用來打破的。那加裡-皮亞就是改寫歷史、打破定律的人之一。在43歲之齡獲取第三座美國名人賽獎杯後，他並沒有停止創造奇跡。在常青PGA巡回賽上，加裡在1985-1995年之間共贏取了18次，他刻苦訓練以保持他的良好狀態，良好的身體條件讓他的運動生命永遠青春旺盛。59歲，他在1995年英國公開賽上創造奇跡；62歲，他在1998年名人賽上創造奇跡；67歲，他在第五屆南非總統杯上創造奇跡——在比賽中他都成了最年老的球員。