Hendrik Borgstijn, de vader van Casper, trouwde op 22 april 1918 op 37-jarige leeftijd met de één jaar jongere Culemborgse Gijsberta van den Ham. Enkele maanden later werd Casper geboren.
Op dit moment is er nog weinig van deze tak van de familie Borgstijn bekend. Casper trok eind jaren dertig richting Schiedam, alwaar hij werkzaam was in de scheepsbouw. Zijn moeder overleed op 55-jarige leeftijd op 5 juni 1937 in Kethel en Spaland, dat in 1941 werd geannexeerd door Schiedam. Zijn vader verhuisde daarna weer naar Culemborg.
Casper is op 3 december 1944 in kamp Bergen-Belsen door tuberculose om het leven gekomen.