Apjának harmadik gyermekeként népes családban nevelkedett. 1887-ben fejezte be tanulmányait a selmeci Bányászati és Erdészeti Akadémián kitűnő eredménnyel. Mérnöki gyakorlati éveit Trzinetzben az ottan vasmű Bessemer üzemében kezdte, de egy év után már meghívták Witkovitzba az ún. kavartvas üzembe, majd megbízták az új acélöntöde vezetésével. Számos újítása mellett az ötvözött acélok gyártástechnológiáját tanulmányozta, s nikkelacél páncéllemezei a Polában végzett próbalövések alapján a legjobb minősítést kapták. Ezért 1893-ban meghívták Kladnóba a Poldihütte ágyú- és fegyvergyárba.

1897. december 1-jén lépett szolgálatba, mint műszaki igazgató Donawitzban az Österreichisch-Alpinen Montan Gesellschaft vasgyárában. 1904-ben a megüresedett vezérigazgatói tisztet töltötte be. Vezetése alatt a donawitzi vas- és acélművek a Monarchia legnagyobb vasgyárává fejlődött. Az acéliparban számontartott gépesítési újításai közül a legjelentősebb a nevét viselő Kerpely-generátor világszabadalma. Minthogy ezt az osztrák vállalat nevében hozta nyilvánosságra, őt magát is osztráknak nevezi a nemzetközi szakirodalom.

K. A. 1907-ben kezdte meg építeni azt a lakótelepet a gyár dolgozói számára, amelyet ma is Kerpely-kolóniának neveznek az ugyancsak róla elnevezett főút mentén. A nemzetközi értékű eredményei alapján 1914-ben a Német Vaskohászok Egyesülete a Carl-Lueg-emlékérem arany fokozatával tüntette ki. Ezt követően gyógyíthatatlan betegsége miatt elhagyta a vállalatot és Bécsben egy szanatóriumban halt meg.