Como otros cantantes afroamericanos, encontró en Marian Anderson una fuente de inspiración, y empezó cantando en su iglesia local, mostrando al mismo tiempo un gran talento con el piano, que empezó a tocar ya con cuatro años. Cuando debutó públicamente en un recital de piano a los diez años, sus padres, que se habían sentado en la primera fila, fueron obligados a moverse para que otros asistentes blancos ocuparan sus lugares. Este tipo de condiciones de vida la motivarían más adelante a involucrarse en el Movimiento por los Derechos Civiles.

A los diecisiete años, Simone se mudó a Filadelfia, en el estado de Pensilvania, donde dio clases de piano y acompañó a varios cantantes. Gracias al apoyo de varios patrocinadores, entre ellos su antiguo profesor de música, pudo estudiar piano en la prestigiosa Escuela de Música Juilliard en la ciudad de Nueva York, pero la falta de recursos le impidió alcanzar su sueño de convertirse en el primer pianista negro de concierto de los Estados Unidos. Más tarde se presentó a una prueba para estudiar piano en el Instituto Curtis, pero fue rechazada. Simone estaba convencida de que se la rechazó por ser negra. De Nueva York su familia se trasladó a Filadelfia, donde intentó conseguir una beca, pero fue rechazada también por el color de su piel.

Entonces, Simone se acercó al blues y al jazz, tras empezar a trabajar en un club nocturno de Atlantic City para ayudar económicamente a su familia.