Cartagena s-a născut în Bronx dintr-un cuplu de portoricani și cubanezi. El a fost popular pe scena hip hop undergound din New York la începutul și mijlocul anilor 1990. Deasemenea a fost membru al D.I.T.C. Crew („Diggin' in the Crates”), împreună cu rapperii/producătorii Showbiz and A.G., Buckwild, O.C., Diamond D, Big L și Lord Finesse, și a apărut și pe primele înregistrări ale altor artiști.
Are contractul semnat cu Imperial Records. Fat Joe de asemenea are propriul său label Terror Squad Entertainment, unde deține funcția de președinte și este artistul principal. În cariera sa de paisprezece ani, Fat Joe a colaborat cu artiști precum Ja Rule, Ashanti, Thalia, Irv Gotti, Nas, Raekwon, Busta Rhymes, DMX, KRS-One, Nelly, Jadakiss, R. Kelly, The Game, Birdman, Lil Wayne, Jennifer Lopez, Mims, Jim Jones, Cam'ron, Eminem, J. Holiday, Lil Jon, Sean Combs, trupa sa Terror Squad, The Diplomats. Fat Joe este bine-cunoscut pentru hiturile sale precum : „Lean Back”, „Flow Joe”, „Don Cartagena”, „What's Luv”, „Get It Poppin” și „Make It Rain”.
