ジェットモードのリジェクションについて

THの親指で押すのですが、ヨーヨーが傾くか外れたとしても飛んで行かずふにゃっと外れただけになったりします。

親指で下に押している場合、一度「親指で手前に引く」形に変えてみてください。ストリングを地面に向かって押すのではなく、自分の体に向かって引くようにするイメージです。
同時に、54秒～1分03秒のヨーヨーを奥へ振る動作も行ってください。これらを同時に行わないと、なかなか外すことができません。
有志の方によるリジェクション部分に特化した別の解説もございますので、参考になれば幸いです。
また、根本的にヨーヨーを強くスリープするというのも手です。確実に中でストリングが噛んでいないのを確認して、普段よりもずっと強く投げてみてください。これだけでびっくりするくらい外れやすくなることもあります。

私の手は小さい(指が短い)のですが関係あるのでしょうか？他の方のされてる動画なども見て手の傾きやそれぞれの位置関係なども真似しながらやったりしているのですがそこで詰まってしまっています。

おそらくですが手が小さい（指が短い）方の方が不利ではあります。ただあくまで「厳密にいえば構造上の有利・不利は存在する」といったくらいで、実際にそれほど大きな差はありません。