Je ne pense pas qu'il y ait une seule chose conçue spécifiquement pour cela ; c'est un créneau assez restreint. Cependant, vous pourriez peut-être rassembler quelque chose.
Pour moi, un wiki semble être très adapté pour héberger et éditer les règles de votre jeu. Mais l'idée générale semble solide : vous pouvez avoir une page ou plusieurs, organisées comme vous en avez besoin, pour les règles, inclure des images si nécessaire. Vous pouvez facilement créer des pages de discussion dérivées, liées de manière appropriée, les regrouper dans des catégories/listes, mettre en place un modèle en haut pour indiquer l'état des discussions, et ainsi de suite. Une alternative, avec une courbe d'apprentissage plus raide et un effort de démarrage pour les contributeurs, serait de simplement garder vos règles au format texte dans un référentiel de contrôle de version hébergé, puis utiliser d'autres fonctionnalités de l'hébergement (notamment le suivi des problèmes) pour faire le reste des choses.
Vous voudrez probablement faire beaucoup d'itérations et de tests. J'ai été assez impressionné par ce que j'ai vu des modules utilisateurs de Vassal. Vassal est un moteur de jeu générique, qui vous permet de créer des plateaux, des pièces, des cartes, des tuiles, etc. Vous pouvez jouer en ligne avec d'autres personnes. Il existe un guide pour les concepteurs ainsi qu'une page FAQ sur la création de modules. Cela vous donnerait la plateforme dont vous avez besoin pour tester les choses. Vous voudrez probablement stocker le module dans une sorte de contrôle de version; malheureusement, c'est un fichier tout-en-un, édité dans Vassal, donc vous ne pourrez pas faire grand-chose en termes de bifurcation et de fusion, s'il y a de nombreux collaborateurs. En fonction de l'ampleur de votre projet, il peut suffire de simplement héberger des fichiers et de stocker des versions numérotées, ou vous voudrez peut-être plus.
Notez que SourceForge pourrait en fait être un excellent candidat pour tout cela ! Il prend en charge les wikis de projets, l'hébergement de fichiers (pour vos modules Vassal) et les référentiels de contrôle de révision (peut-être pour vos règles, si vous ne voulez pas les mettre sur un wiki). Vous devez juste décider comment vous allez l'utiliser. Réfléchissez-y : un jeu de société n'est pas si différent d'un jeu informatique. Il est simplement écrit dans un langage de "programmation" que les humains, et non les ordinateurs, comprennent !
(Je sais que ce n'est pas une réponse très complète ou spécifique ; peut-être que d'autres peuvent contribuer davantage.)