La red segura y de alta calidad en la casa unifamiliar

Deberías ampliar la RAM

¿Por qué no pones la Fritzbox en modo puente o la reemplazas por un módem puro? Así no tienes doble NAT.
DHCP en VLAN puede hacer casi cualquier router que sea compatible con VLAN.
¿Qué quieres ejecutar en la Synology? Deberías aumentar la RAM. Entonces Windows funcionaría razonablemente bien. Pero no para cosas que requieran muchos cálculos.
Radius y DNS se pueden ignorar. De todas formas, en mi red doméstica. No hay muchos dispositivos, por lo que no es una gran carga.

En cuanto a la Fritte, sinceramente pereza e inseguridad. Pereza porque no tengo ni idea de telefonía, SIP y compañía, y la Fritzbox es la central telefónica. Inseguridad porque no sé cómo maneja Magenta-TV la situación si otro router tiene que encargarse de eso.
En la Synology montaría un controlador de dominio, servidor de archivos, probablemente DNS, todo servidores Windows. Posiblemente un WSUS. Luego un sistema de monitorización (Zabbix o similar).

En tu lugar, también dejaría que la Fritte hiciera estas partes y solo desconectaría la red detrás de ella donde sea necesario. De lo contrario, dependiendo del router/firewall, invertirás mucho tiempo y nervios para que funcione sin problemas con SIP y Magenta TV.
Aunque resulte en más segmentos de red individuales, el esfuerzo es significativamente menor.

Con los servidores estoy de acuerdo con Rick, en la red doméstica no hay mucha carga. Solo debes tener en cuenta en el servidor DNS que la experiencia de navegación sufre enormemente si, por ejemplo, muestra un tiempo de respuesta de 150 ms porque el Synology se ralentiza. Esto no se nota tanto en AD, Radius o servidor de archivos. En DNS se nota de inmediato.

Entonces volveríamos a la doble NAT…
¿Realmente es tan problemático como se “publicita” a menudo?
Cambiar el DNS a otro no debería ser un problema. Aunque me pregunto si, digamos, 30 clientes realmente generan una gran carga en el servicio DNS.