メール受信したら、音が鳴るように設定していますが、すぐに鳴りません。

wzjmさん、勝ちゃんさんに呼ばれたような気がして出てきました(^-^;
私がGalaxy S9+で使っているのはK-9 Mailです。もちろんPush通知対応です。ただしAndroid 11ではβ版しか動きませんし、設定はやや面倒ですが、使いこなせばとても便利です。万人向けではありせん。

Android 11でk-9 mail(ベータ版)を使う
https://king.mineo.jp/reports/118513

CosmoSiaは妻に使わせています。私も用途に応じてサブメーラーとして使っています。
設定は至って簡単で、使い勝手も良いですので、初心者向けと言えます。