Áberg nació el 24 de diciembre de 1841 en Linkóping, Suecia. Sus padres fueron Johan Gustaf Aberg (1814-1855), propietario de un restaurant y comerciante de vinos y Gustafva Henrika Nordwall (1819-1858). Muerto su padre interrumpió los estudios secundarios en su ciudad natal y se hizo a la mar, apenas cumplidos los 14 años, con el propósito de convertirse en marino. Prontamente mudó de parecer, y al fallecer su madre en 1858, se radicó en Vármland. Poco más tarde retornó a Linkóping y completó sus estudios en la cercana Escuela Técnica de Norrkóping entre 1860 y 1863. En el otoño de ese último año logró su ingreso a la Escuela de Arquitectura de la Real Academia de Artes de Suecia en Estocolmo, por entonces dirigida por el arquitecto Fredrik Wilhelm Scholander (1816-1881). Su egreso se produjo en 1869, viajando de inmediato a la Argentina, en compañía de su camarada de estudios Carl August Kihlberg.