Molto probabilmente relativi a ebraico כֶּלֶב (kelev) che significa "cane". Una teoria alternativa collega alla Hebrew כָּל (KAL) che significa "tutto, tutto", e לֵב (lev) che significa "cuore". Nell'Antico Testamento questo è il nome di una delle dodici spie inviate da Mosè in Canaan. Degli Israeliti che hanno lasciato l'Egitto con Mosè, Caleb e Joshua sono stati gli unici che hanno vissuto per vedere la Terra Promessa.
Come un nome inglese, Caleb è entrato in uso dopo la Riforma protestante. Era comune tra i puritani, che lo introdussero in America nel 17 ° secolo.