Tijdens de eerste speciale tentoonstelling in 1892, werd de eerste prijs bij de vrouwelijke langharigen toegekend aan een mooi klein zwart hondje met de naam Petite, drie jaar oud en eigendom van Nicolas Rose, peetvader van de Groenendaal. Dit teefje was bewaker van een schapenkudde. De Groenedaeler is genoemd naar het kasteel Groenendael in het Zonienwoud ten zuiden van Brussel
De eerste secretaris van de Club du Chien de Berger Belge, bracht een hond mee met lang zwart haar. Hij droeg de naam Picard om hem te verkopen aan Nicolas Rose. Toen hij onderweg was om dit te doen, hield hij halt te Ukkel, vandaar de naam Picard D'Uccle die hem beroemd maakte.
Picard D'Uccle werd gekruist met Petite. Zij kregen pups, allemaal zwarte honden. Eén van die honden was de beroemde Duc De Groenendael het prototype Groenendaeler. Hij werd geboren op1 mei 1893, hij had mooie kleine oortjes, maar zijn borstk as was versierd met een enorme witte vlek.
Picard werd later gedood door een geweerschot op donderdag 22 december 1898. Op het plaatje hiernaast: Picard d'Uccle (liggend) en zijn zoon Duc de Groenendael (1896)
De Groenendaeler heeft van bij het begin genoten van enorm succes met een hoogtepunt rond 1912. Rond die tijd moest een Groenendaeler pikzwart zijn, wat wil zeggen dat de vacht helemaal zwart is en geen enkel wit haartje heeft. Elke hond met een beetje wit haar, zelfs wanneer hij ze had geërfd van zijn voorouders, Picard DÚccle en Duc de Groenendaal, werd van de tentoonstellingen verbannen. Tegenwoordig mogen alle soorten Belgische herders een beetje wit op de borstkas of op de tenen hebben.