La collaboration entre la « Freie Vereinigung  » et les groupes anarchistes fut dès le début marquée par des conflits politiques et personnels qui allaient plus tard avoir un effet désintégrateur dans le cadre de la FAUD. Depuis que la «  Freie Vereinigung  » avait repris l’idée de la grève générale et de l’action directe et pris ses distances avec le SPD, les conditions idéologiques étaient réunies pour une collaboration avec les anarchistes.

L’AFD ne parvint pas à se forger une position claire vis-à-vis de la «  Freie Vereinigung ». Lors de son premier congrès, elle décida de collaborer avec elle ».

Cette décision fut annulée lors du deuxième congrès sous la forte pression des anarchistes berlinois qui travaillaient dans les associations centrales. Les membres furent alors libres de choisir leur organisation syndicale. Tout le monde s’accordait à dire que le travail syndical ne devait représenter qu’un aspect partiel de l’action anarchiste. (81)

Au sein de la « Freie Vereinigung », l’élément anarchiste était certes représenté par le magazine « Der Pionier », mais il ne parvint pas à s’imposer comme idéologie contraignante face au pragmatique Kater. Tout comme pour la question du nom, il estimait qu’on ne pouvait pas imposer un changement de nom et d’idéologie à la masse des membres enracinés dans la tradition social-démocrate.(82) Ce sont les mêmes considérations qui conduisirent à la rupture avec le Dr Friedeberg, lorsque celui-ci évolua de plus en plus vers l’anarchisme.(83)

Les relations entre la « Freie Vereinigung » et Gustav Landauer étaient tout aussi contradictoires. D’un côté, ils le louaient comme « le plus brillant esprit du monde des idées libertaires et anarchistes », qui leur avait fait découvrir les idées de Kropotkine dès 1906, mais ils le critiquaient pour son rejet de la question syndicale et son concept de coopératives d’habitation. Ils lui reprochaient également son arrogance intellectuelle à l’égard du mouvement ouvrier.(84)

La collaboration entre les localistes et les anarchistes en Rhénanie-Westphalie s’est avérée sans problème. La « Fédération anarchiste de Rhénanie-Westphalie », fondée en 1910, s’est engagée avec force en faveur de la participation de ses membres à la « Freie Vereinigung ». (85) Ils ont appelé leur journal, publié à intervalles irréguliers, « Der Weckruf » (Le réveil) « organe de l’anarchisme et du syndicalisme ». Dans le numéro 2 de ce journal, ils écrivaient à propos de la relation entre anarchisme et syndicalisme :

L’anarchisme ne cessera d’exister que lorsqu’il sera soutenu par un mouvement syndicaliste fort, un mouvement qui possède le droit à l’autodétermination dans toutes ses actions, un mouvement qui, grâce à ses moyens de lutte tactiques, est déjà de notre côté et nous appartient et en Allemagne, ce mouvement n’est autre que la « Freie Vereinigung Deutscher Gewerkschaften  » (Association libre des syndicats allemands). (86)

Les premières organisations de la « Freie Vereinigung » ont été fondées en 1901 en Rhénanie-Westphalie, sous l’impulsion décisive du carreleur Carl Windhoff, qui a joué un rôle de premier plan dans le mouvement anarcho-syndicaliste jusqu’en 1933.

Les liens personnels entre la «  Freie Vereinigung » et la « Fédération anarchiste » étaient très étroits dans de nombreux groupes locaux. C’est pourquoi les noms et les affiliations changeaient fréquemment dans la correspondance administrative.

Ainsi, à Dortmund et Gladbeck, les dirigeants locaux de la « Freie Vereinigung  » étaient également les adresses de contact de l’AFRW.(87)
À Elberfeld, l’agent de liaison de l’AFRW était également délégué d’Elberfeld au 9e congrès de la « Freie Vereinigung  » (1910).(88)
Un dossier de police sur les anarchistes vivant à Düsseldorf et dans ses environs en 1912/13 révèle dans la plupart des cas une double appartenance à l’« Anarchistische Propagandaverein » (Association anarchiste de propagande) de Düsseldorf et ses environs et à la « Freie Vereinigung » (Association libre), ainsi que l’abonnement à l’organe de presse correspondant.
Il est également fait mention d’événements communs et d’une fête commune du 1er mai en 1913. Il existait même à Düsseldorf une association de chanteurs, les « Freie Sänger 04 », composée presque exclusivement d’anarchistes et de syndicalistes.(89) Les groupes anarchistes et syndicalistes de Düsseldorf étaient les plus puissants du district. (90)
D’après les informations contenues dans les dossiers, on peut supposer qu’entre 200 et 400 personnes appartenaient au mouvement anarchiste et syndicaliste et que leur influence sur la classe ouvrière de Düsseldorf, en particulier parmi les carreleurs et les ouvriers du bâtiment, n’était pas négligeable, d’autant plus que Carl Windhoff était, jusqu’à son exclusion du parti en 1904, délégué du SPD à Düsseldorf et donc très connu de la main-d’œuvre ouvrière de gauche. (91)

Néanmoins, des frictions entre les deux groupes ont également eu lieu en Rhénanie-Westphalie. Le motif était un article de Fritz Kater dans l’« Einigkeit  » intitulé « Was ist Spiegelfechterei ? » (Qu’est-ce que la lutte dans un miroir ?), dans lequel il affirmait que le « Weckruf  » avait été financé par des fonds que les groupes de Cologne devaient à l’« Einigkeit  ».(92)

Les différends furent réglés lors de la conférence régionale de la FVdG à Düsseldorf et une résolution fut rédigée, dans laquelle « Die Einigkeit » et la commission de presse étaient invitées à ne plus publier à l’avenir d’articles rendant « impossible la collaboration entre les courants anarchistes et syndicalistes ». (93)