De Afgescheidenen vormden geen eenheid. Verschillen in denkwereld en geloofsbeleving leidden al spoedig tot tegenstellingen en conflicten. Op voorgaan van H.P. Scholte vroegen diverse gemeenten in 1838 en volgende jaren officiële erkenning aan als Christelijke Afgescheiden Gereformeerde Kerk. Anderen weigerden dat en noemden zich „Gereformeerde Kerken onder het kruis” (van de vervolging). Ook andere verschilpunten leidden in die jaren tot scheuringen.

Met de stichting van de Theologische School te Kampen, waaraan de toenmalige leiders der voornaamste richtingen allen tot docent werden benoemd, begon echter een proces van eenwording (1854). In 1869 vond een hereniging plaats met de meerderheid der Gereformeerde Kerken onder het kruis. De Christelijke Gereformeerde Kerk, zoals zij na deze vereniging heette, maakte in die jaren een snelle groei door. De volkstelling van 1889 wees uit dat zij, ondanks een relatief hoog aandeel in het Nederlandse emigratiecijfer, bijna 190.000 zielen telde, 4,2 procent van de totale bevolking. In 1869 was dat 3 procent geweest, in 1859 2 procent, in 1849 1,3 procent.