Он начал свою карьеру с Juice Crew (в состав которой входили Biz Markie и Big Daddy Kane) ещё в 1980-м году, но не получил признания и успеха. В 1986-м году Kool G Rap начал работать с DJ Polo. Его первыми андеграунд синглами стали композиции "It's A Demo/I'm Fly". Два других сингла под названием "Streets Of New York" и "Road To The Riches" получили широкую ротацию на "Yo! MTV Raps", заработав Вилсону репутацию одного из топовых лириков Нью-Йорка. Свою сольную карьеру Kool G Rap начал в середине 90-х годов, выпустив в 1995-м году альбом под названием "4, 5, 6". Но альбом был обделен вниманием музыкальных критиков, после чего Kool G Rap начал работать в совместных проектах с разными исполнителями. В 2002-м году Kool G Rap подписывает контракт на "Rawkus Records" и выпускает альбом под названием "The Giancana Story". Альбом был хорошо оценен, но не получил коммерческого успеха. Новый проект Kool G под названием "Half A Klip" будет выпущен на "Chinga Chang Records" в 2007-м году. Продакшеном альбома занимается никто иной, как сам DJ Premier.