Nació el 1 de marzo de 1888, en la ciudad de Bilopol, de la provincia de Járkov, en aquellos años capitalde Ucrania. Su padre, Semión Grigórievich, era pintor. Fue el segundo hijo de la familia y resultó ser un niño muy débil y enfermizo, aunque se fue desarrollando normalmente. A los cinco años ya había aprendido leer y era un ávido lector. Desde pequeño mostró una capacidad de observación poco común, y a eso se unía el deseo de llegar hasta las causas originarias de cada fenómeno.

La madre de Makárenko, a diferencia de su esposo, un tanto reservado y poco comunicativo, era una mujer optimista y alegre. Magnífica narradora, con un gran sentido del humor, mantenía en la familia la atmósfera de optimismo vital, que Makárenko llama con tanto acierto en sus libros «tono mayor». En 1895, a los siete años ingresó en la escuela de primeras letras.

En 1900 se mudaron a Kriúkov, una población de 10.000 habitantes que era un suburbio de la importante ciudad industrial de Kremenchug, situada a orillas del río Dniéper. En Kriúkov existían unos grandes talleres ferroviarios, a los que fue trasladado su padre, donde le hicieron oficial pintor y, al poco tiempo, contramaestre de un taller de pintura. Fue también en esta ciudad donde más tarde conoció a su futura esposa, Tatiana Mijáilovna Dergachova, hija de un soldado zarista.

Makárenko se matriculó en la escuela urbana de Kremenchug después de haber dejado, con la mudanza, su antigua escuela rural por esta nueva, donde se estudiaba durante unos seis años. El programa docente de la escuela era bastante completo, pero los alumnos no podían matricularse en los grados superiores.

Makárenko siguió estudiando con brillantez. Su erudición y conocimientos de los clásicos rusos y extranjeros eran asombrosos para un chico de su edad. Tenía profundos concimientos de filosofía, astronomía y ciencias naturales.
muerto el 1 de abril de 1939 en Moscú, fue un pedagogo ruso. Tras el triunfo de la revolución rusa fundó las casas cooperativas para huérfanos de la guerra civil, destacando la Colonia Gorki; más tarde fundó, bajo los auspicios de Stalin, el municipio de Dzerjinski, donde trabajó hasta el fin de sus días.

Makárenko escribió numerosas obras, entre las que destaca El Poema pedagógico (Педагогическая поэма), que no es sino una historia de la colonia Gorki. Fue un libro muy popular en la URSS, compuesto originalmente por tres volúmenes, y actualmente forma parte del temario de estudio de numerosos planes universitarios relacionados con el mundo de la escuela y la pedagogía.