měl jsem nějaké zatmění, výše skutečně píšeš o výstupu, nevím proč jsem to zaměnil se vstupem.

7805 určitě snese vstupní napětí 25V, při zátěži 30mA je tam ztráta 0.6W.
ale problém může být v zapojení tvého čínského relé, asi z těch 5V.
plné schéma tu nedáváš, tak jen odhad - při spínání cívky na ní vznikají rušivé napěťové špičky, úměrné energii cívky. obvyklá obyčená dioda v závěrném směru ořeže jen záporný překmit, ale kladnou špičku (u malých relé i desítky volt) ponechá.
je tedy otázka, co vlastně měříš jako 5.7V, jestli je to nějaká střední hodnota se špičkou? asi by ti odpověděl jen osciloskop.

to relé finder s proudem cívky 0.7A musí být zdrojem ještě šílenějších špiček na 12Vst, které projdou přes usměrňovač, elektrolyt 470u je nemá šanci vyfiltrovat a tak udělají na výstupu 7805 resetující paseku.
bez osciloskopu to asi nedáš.

jistou možností by bylo vřadit do přívodu stabilizátoru feritovou (2-)cívku, např. https://www.gme.cz/tlumivka-toroidni-horizontalni-caf-0-7-10-talema
a dále k napájení čínských relé přidat ořezávací transil https://www.gme.cz/transil-unipolarni-bzw06-5v8

edit:

Proto jsem tam chtěl dat tu zen. diodu, ktera by to na těch 5V hlidala.

já se tím nesmyslem nechtěl vůbec zabývat, ale když to opakuješ:
- aby zenerka stabilizovala, musí jí procházet srovnatelný nebo větší proud než zátěží, takže cca 50mA.
- jak se spočítá předřadný odpor, víš z ohmova zákona R=úbytek U / I
(vstupní napětí 5.07V - zenerovo napětí dejme tomu 5.1V) / 80mA = - 0.375ohm
fak si myslíš, že by miniodpor záporné až nulové hodnoty fungoval?