Как прописать редирект в htaccess с несуществующих доменов?

Зачем проверять домен?
Вполне работало, примерно в таком ключе, как ТС запросил

в связке с nginx+apache, скорее всего не будет работать
не доходит оно до  этого правила при  https://  запросе

Вот такой htaccess.

RewriteEngine On
    
    RewriteCond %{HTTP_HOST}  !^domen\.com$ [NC,OR]
    RewriteCond %{HTTP_HOST}  !^www\.domen\.com$ [NC]
    RewriteRule ^(.*)$  https://domen.com/$1  [L,R=301]

    # Handle Authorization Header
    RewriteCond %{HTTP:Authorization} .
    RewriteRule .* - [E=HTTP_AUTHORIZATION:%{HTTP:Authorization}]

    # Redirect Trailing Slashes If Not A Folder...
    RewriteCond %{REQUEST_FILENAME} !-d
    RewriteCond %{REQUEST_URI} (.+)/$
    RewriteRule ^ %1 [L,R=301]

    # Handle Front Controller...
   # RewriteCond %{HTTPS} !=on
    #RewriteRule ^(.*)$ https://%{HTTP_HOST}%{REQUEST_URI} [L,R=301,NE]
    RewriteCond %{REQUEST_FILENAME} !-d
    RewriteCond %{REQUEST_FILENAME} !-f
    RewriteRule ^ index.php [L]

При заходе с IP браузер пишет, что много редиректов. В чём дело?

Ну так посмотрите в консоли. Там редиректы отмечаются.