¿Que configuracion me recomiendan para un servidor casero?

Yo le sacaría provecho y montaría la 64bits se supone es más rápida, y no he tenido conflictos trabajndo con ella, y puedes aumentar la memoria todo lo que tu tarjeta madre soporte. Yo la uso con escritorio Gnome y compiz en mi desktop , mi cpu es un phenome II x3 y tengo 4 Gb de ram, pero la tuya con esas características bien puede soportar kde, ahora como lo vas a usar de servidor un lxde esta bastante bien, lo he instalado en máquinas mas antiguas que la que describes y en cuestión de segundos me carga el escritorio.
Además si es servidor, pues también puede ser icewm, realmente en los servidores (como tales) es raro que alguien trabaje, y los ambientes gráficos solo son para mantenimiento.

Virtualbox uso el de sun http://www.virtualbox.org/ es muy confiable y tiene todo lo necesario para no atorarse, con el de los repos que tuve mala experiencia con los usb.

En cuanto al ext2 3 y 4 no tengo empacho en usar uno u otro, aunque se supone que mientras más reciente, mejor optimiza el tiempo de lectura/escritura .

Yo te recomiendo que pienses en montarlo todo en una máquina virtual. Yo estoy muy contento con los resultados. Si te conectas al cliente irc de la web o miras dependenciasdrake, estarás conectado a una que tengo alojada en mi máquina de escritorio.

Puedes usar VirtualBox y crear una máquina virtual con dos discos. Uno para el sistema, de 4 o 5 gb y otro más grande para tus datos. Ganas varias cosas:
1. Todo el tema de servicios lo tienes en un gran mega-proceso separado del resto de sistema.

2. El proceso de copias de seguridad se vuelve banal. Un snapshot de los discos virtuales o una simple copia a otra unidad física, bastarán.

3. En caso de desastre con el sistema "servidor", puedes recrear una máquina virtual en pocos minutos que te sirva para sacar los datos del disco virtual que los contiene.

Por lo demás y referente a tus propias dudas:

Sobre LVM hay defensores y detractores. Yo lo uso y estoy muy contento. Pero hay que estar preparado porque, generalmente, un fallo se traduce en una rápida sucesión de los mismos. No es tan sencillo como recuperar una partición "normal".

Para /boot, los 200 megas están bien, incluso algo menos, 175 o así bastarán. El sistema puede ser ext2 o ext3, el que uso yo. Siempre fuera del LVM.

El servidor de archivos, pues piensa en quién se va a conectar. Si usas equipos con windows, samba es impepinable. FTP para dar servicios en local es muy limitado. La estructura lógica, pueden ser los /home de los usuarios (muy útil si usas samba y autenticas contra un PDC que hayas creado) o un gran directorio con subcarpetas (que en esencia es lo mismo).

La solución de las máquinas virtuales te permite usar un sistema de escritorio de 32 bits mientras virtualizas un sistema servidor de 64. Aunque lo veo poco práctico, es factible.

Lxde.

Consejo: Contrólalo todo, y contrólalo siempre.

Sobre todo en la virtualización, ya que si quieres hacer algo productivo con Windows, requerirás como mínimo 1GB de RAM virtualizas XP y más si es Vista o 7, con lo que te quedarás sin memoria. En tu caso, me aseguraría tener como mínimo 5GB de RAM, para poder asignar 3GB a Windows y el sistema siga disponiendo de 2GB para su uso. Evidentemente para poder usar estas cantidades de RAM o usas el kernel-server-latest (para tener el PAE activado y así poder tener hasta 64GB de RAM en 32 bits) o usas la arquitectura de 64 bits.

Te comento un poco las cifras de RAM: mi PC de escritorio tiene 1GB de RAM y va bien para lo que lo uso, no sobrado, pero bien. Normalmente uso GNOME, Firefox, Evolution, OpenOffice.org, Totem, Audacious, Audacity, juegos varios (OpenArena, Nexuiz, Sauerbraten, Torcs, vDrift, etc.), etc. No hago edición de vídeo (para lo que me faltaría RAM) pero si hago cosas de audio (toco en un grupo). Mi servidor doméstico (Apache, MySQL, Cyrus-IMAP, fetchmail, ftp, NFS, Samba, Sane, CUPS, mldonkey, etc.) tiene 512MB de RAM pero se queda algo corto y cuando le doy caña usa swap que da disgusto, con 1GB iría suelto. En cuanto a la memoria requerida por Windows, pues es Windows y requiere toda la disponible (dependerá de las aplicaciones que quieras usar en el Windows, pero todo lo que sea más complejo que el Notepad.exe te requerirá RAM).

Es preferible LVM porque te da flexibilidad con los discos, te permite modificar los tamaños asignados a cada volumen lógico casi on-the-fly y te permite añadir discos nuevos y meterlos en los volúmenes en cualquier momento, por lo que te olvidas del problema de que en el futuro te quedes sin espacio. Eso sin perder rendimiento. En cuanto a /boot, es cierto que no puede estar dentro de un LVM y que el journaling no tiene sentido ya que sólo se producen modificaciones cuando instalas o eliminas un kernel (y no es algo que se haga cada día y a la ligera) por lo que ext2 es casi lo óptimo, aunque el tamaño de 200MB me parece un poco exagerado si no te planteas tener muchos kernels instalados a la vez. Si no recuerdo mal, yo tengo 70MB.

El swap si que lo necesitaras, y mucho, si instalas todo lo que dices querer instalar teniendo 2GB de RAM. Con esa cantidad de RAM, usando 32 bits y el kernel-desktop, lo óptimo sería tener 2GB de swap (más sería tirar el espacio de disco, estas limitado a 4GB de espacio de memoria). Si te planteas comprar RAM para superar los 4GB a sea usando el kernel-server de 32 bits o el sistema de 64 bits, yo podría 4GB de swap.

La versión de 64 bits da mejor rendimiento que la de 32 bits, aunque puede dar algún quebradero de cabeza extra. Los 2GB se te quedan escasos en cualquier caso para lo que quieres hacer, independientemente de que uses 32 o 64 bits.

En cuanto al escritorio, no estoy de acuerdo contigo, pero en cualquier caso el que Mandriva propone es LXDE.