Tu peux jouer avec le flou. Ou la lumière ainsi que l'opacité.
Y à plusieurs façon de faire apparaître une roto de façon fluide. Comme à dit Lyud, après ça dépend de ton fond, si c'est sombre tu optera pour l'opacité, des bordure assez flouté et sombre, alors que si c'est claire, tu vas plus jouer sur la lumière et l'opacité.
Voila, juste quelque exemple, à expliquer c'est pas trop pratique, mais si tu connais les basses tu devrais avoir comprit et tu va trouver lol.