Ο Ηλίας Καρκαβέλιας γεννήθηκε στην Αθήνα και ξεκίνησε να ασχολείται με τη μουσική σε ηλικία τεσσάρων ετών με το κλασικό πιάνο. Συνέχισε στα 13 με ηλεκτρικό μπάσο με τον Θανάση Γουρούνα και έπειτα με τον Θοδωρή Μποτίνη.

Παράλληλα με τις σπουδές του, ξεκίνησε τις live εμφανίσεις σε ηλικία μόλις 15 ετών σε rock, pop, soul σχήματα.

Στα 20 έγινε μέλος του Sera Bellos Quartet παράλληλα με άλλες jazz εμφανίσεις στην Αθήνα, τις οποίες συνεχίζει μέχρι σήμερα. Παράλληλα σχημάτισε μαζί με τα αδέλφια του Αλέξανδρο και Δημήτρη το «οικογενειακό» Karkavelias Trio.

Το 2017 ξεκίνησε να παίζει με την Πέννυ Μπαλτατζή και με το Kabasele / Karkavelias / Benetatos Trio. Έχει συνεργαστεί με τους Θοδωρή Κότσυφα, Γιάννη Παπαναστασίου, Σπύρο Μάνεση, Θάνο Χατζηαναγνώστου, Ανδρέα Παπαγιαννακόπουλο, Edgar Sabillo, κ.ά.