Katherine nasceu em 1918, em White Sulphur Springs, Virgínia Ocidental, condado de Greenbrier, filha de Joshua e Joylette Coleman.Uma entre cinco filhos, seu pai trabalhava como madeireiro, agricultor e carpinteiro no Hotel Greenbrier. Sua mãe era ex-professora. Muito cedo, Katherine mostrou talento para matemática e seus pais enfatizavam a importância da educação para os filhos. Como o condado de Greenbrier não oferecia escola para estudantes negros após a oitava série, as crianças da família foram para o ensino médio no condado de Kanawha, no chamado Instituto, onde hoje é a universidade de West Virginia. A família dividia seu tempo entre os estudos durante o ano e o verão em Sulphur Springs. Katherine formou-se, no ensino médio, aos 14 anos. Aos 15 anos, ela iniciou os estudos na universidade, onde estudou em todos os cursos que ofereciam matemática. Katherine optou pela matemática, com interesse em pesquisa na área, um caminho com muitas portas fechadas para negras na época.