Штутгарт выбран не случайно. 22 апреля 1950 года именно в этом городе российские немцы вместе с пастором Генрихом Рёммихом основали «Рабочее сообщество немцев-переселенцев с Востока» („Arbeitsgemeinschaft der Ostumsiedler“). 15 октября того же года в Касселе прошло первое учредительное собрание. Почти сразу была подписана и Хартия изгнанных с родины немцев, ставшая уставом организации. В 1955 году Рабочее сообщество было переименовано в Землячество немцев из России. В Штутгарте расположилось и бюро, координирующее деятельность на сегодняшний момент более 150 локальных и земельных отделений организации, сотрудники которых работают на общественных началах. В 1979 году правительство земли Баден-Вюртемберг, где находилось самое крупное на тот момент региональное отделение Землячества, взяло шефство над федеральной организацией.