Ceci est expliqué dans le PHB, page 198 :
Assommer une créature
Il arrive qu'un attaquant veuille mettre son adversaire hors d'état de nuire plutôt que de lui porter un coup mortel. Lorsqu'un attaquant réduit une créature à 0 point de vie avec une attaque de mêlée, il peut assommer la créature. L'attaquant peut faire ce choix au moment où les dégâts sont infligés. La créature tombe inconsciente et est stable.
Vous n'avez pas besoin d'une arme de matraquage ou d'un jet de dé spécial. Tout ce que les PJ ont à faire est de déclarer qu'ils souhaitent assommer la créature au lieu de la tuer lorsqu'elle atteint 0 HP.