Pour ajouter à des réponses déjà excellentes :
L'échec doit être "amusant". Si l'échec n'est pas amusant, les joueurs feront tout leur possible pour l'éviter, et leur propre échec est encore moins amusant que celui d'un autre joueur. Cet évitement conduit à ce comportement "égoïste" (qui consiste à se préserver).
Permettez-moi d'essayer d'expliquer le terme "plaisir" dans ce contexte. Tous les résultats doivent être intéressant . Le jeu doit être agréable à jouer, même lorsque votre personnage échoue dans une tâche.
Si tu réussis, quelque chose de cool arrive... si tu échoues, quelque chose de cool toujours doit se produire. C'est vraiment difficile avec les jeux traditionnels dérivés de D&D... des jeux sans nuances de gris, qui punissent impitoyablement l'échec. (Rien de tel que de lancer un pouvoir génial "une utilisation par jour" et de le voir s'éteindre... transformer ce qui aurait pu être génial en simple déception et regret, parce que vous n'avez eu qu'une seule chance d'être génial de cette façon aujourd'hui).
C'est l'une des raisons pour lesquelles la mort d'un PC n'est généralement pas envisagée dans toutes mes parties, sauf lorsque le joueur concerné pense que c'est dramatiquement approprié. La mort d'un PC n'est généralement pas intéressante et n'est pas amusante, sauf si le joueur trouve que la mort est une issue satisfaisante à ce moment précis de l'histoire. (Comme se sacrifier pour que le reste du groupe puisse s'échapper, et sentir que c'est une fin appropriée à l'histoire de son personnage).
Lorsque l'échec est intéressant... lorsqu'il entraîne des complications ou des interactions intéressantes dans l'histoire, alors les joueurs ont moins peur de l'échec. Et les joueurs qui n'ont pas peur de l'échec sont plus disposés à prendre des risques pour aider les autres joueurs à faire des choses géniales. (Cela suppose que vos joueurs trouvent que les complications scénaristiques, etc. font partie de leur "plaisir". Si ce n'est pas le cas, alors vous avez probablement peu d'espoir avec ce groupe de joueurs).
Donc, la chose la plus importante que vous puissiez faire ici est de choisir un système de jeu qui soutient ce genre de jeu au lieu de le décourager. Les joueurs habitués à cette approche peuvent le faire dans D&D, mais je pense qu'il sera difficile d'apprendre aux gens à penser de cette façon dans ce contexte, à moins que vous ne soyez prêt à modifier le système.
Ma plus grande modification lorsque je fais des jeux "impitoyables" est d'introduire un système de "points de chance", où les joueurs gagnent des jetons (souvent en acceptant l'échec) qu'ils peuvent dépenser pour "réparer" les mauvais jets de dé. (C'est effectivement ce que fait Fate.) J'ai expérimenté les relances, le bonus de +4, le succès automatique, et je trouve que le succès automatique fonctionne le mieux... quand le joueur veut vraiment réussir, s'assurer qu'il le peut quand c'est important est la clé. Je laisse les joueurs dépenser des jetons sur les actions d'autres joueurs... vous pourriez aller plus loin et faire en sorte que ce soit la seule option, de sorte que la correction d'un jet raté ne puisse venir que d'un autre joueur. Cela mettrait l'accent sur la valeur accordée au renforcement du plaisir des autres.
Mais il n'y a pas vraiment de bonnes solutions mécaniques, et vous devez garder à l'esprit que vous essayez de jouer avec la personnalité des gens... les gens jouent "égoïstement" parce qu'ils sont comme ça, et ils doivent vouloir changer s'ils veulent jouer différemment. Vous ne pouvez pas leur imposer ce changement. Vous pouvez en parler, et parfois vous en trouverez un pour qui l'idée de faire paraître les autres géniaux comme un moyen d'augmenter le plaisir de chacun est une révélation. Mais les joueurs sont compétitifs par nature, et certains d'entre eux ne changeront jamais.
L'autre solution consiste à s'entourer du genre de personnes avec lesquelles vous voulez jouer pour commencer. Cela aussi est difficile.