Dans le diocèse de Toulouse, dès 1973, un premier groupe de prière s’est constitué et s’est installé Rue des fleurs. Après quelques mois, il a reçu le nom de « l’Olivier » Au cours des années 1986-1988, plusieurs groupes de prière prennent alors leur essor à partir de frères et soeurs du groupe, jusque là unique, de la rue des Fleurs, qui avait vu le jour quelques 12 ans plus tôt.
Le désir du maintien d'un lien avec ce groupe premier et entre ces groupes se manifeste spontanément, sans plan préétabli, de diverses façons. Et, comme tout naturellement, une sorte de "structure" de communion entre tous ces groupes, va se mettre en place, peu à peu, dans la prière, le discernement, et parfois dans la douleur, la "Communion de l'Olivier", avec des organes communs d'animation et de responsabilité. Des groupes nés dans d'autres circonstances ont choisi d'entrer aussi dans « la Communion de l’Olivier ».