Il n'y a pas de règle spécifique
Les règles de base imposent des contraintes limitées à une créature qui est sous l'eau : la vitesse de déplacement est réduite de moitié pour les créatures sans vitesse de nage, la plupart des attaques avec des armes de mêlée ont également un désavantage pour ces créatures, et les attaques avec des armes à distance sont limitées à la "portée normale" de l'arme (c'est-à-dire le premier nombre des deux donnés pour la portée de l'arme). (Règles de base, p.8)
En fait, les seules autres règles que je connais qui ont une quelconque influence sur la dissimulation sous l'eau se trouvent à la page 117 du DMG, sous le titre Visibilité sous-marine. Ces règles expliquent que les créatures qui sont sous l'eau ne pourront percevoir que les ennemis situés à une certaine distance, en fonction des conditions de visibilité.
Il y a une règle générale : Imposer un désavantage
5e est léger en termes de règles spécifiques pour des cas particuliers, et préfère équiper les DMs pour prendre des décisions en réponse aux actions de leurs joueurs. L'un des meilleurs outils fournis à cet effet est la capacité d'imposer un désavantage lorsque les "circonstances entravent le succès d'une manière ou d'une autre" (DMG p.239).
Si un personnage tente d'utiliser son invisibilité pour se cacher sous l'eau, vous pourriez imposer un désavantage à leur jet de discrétion pour refléter leur difficulté à le faire*. S'ils sont repérés, ils resteraient tout de même non vus, mais ils ne seraient plus cachés - la principale différence étant qu'un ennemi en saurait assez sur leur emplacement approximatif pour les cibler avec une attaque désavantagée.
* Je suppose ici qu'il serait plus difficile de rester non détecté sous l'eau, puisque c'est l'hypothèse de la question. Je ne sais pas si c'est vrai ou non.