World Of Bit

Para começar, você já se vê na dúvida entre Ubuntu 32 e 64 bits, depois tem a opção live-cd e alternate e para piorar: um monte de nomes estranhos. Mas qual a diferença entre estes Urubuntus todos? Para começar não só aquela cor marrom ubuntesca muda, mas a interface gráfica e alguns programas.

Saiba quais ambientes gráficos compõem cada Ubuntu:
Ubuntu: vem com o Gnome, ambiente bem conhecido e de fácil uso;
Kubuntu: Kde, também conhecido e de fácil uso, porém mais pesado que o Gnome, de quebra, ainda lembra um pouco o ambiente do Janelas*;
Lubuntu: Lxde, lembra um Fluxbox mais completo, mas super minimalista, simples e leve;
Xubuntu: Xfce, baseado na biblioteca GTK, a mesma do Gnome, de fácil uso e mais leve.

A diferença de cada um está realmente em alguns programas e na interface, de leve a pesado e de fácil uso a mais complicadinho.
Programas como editores de textos e reprodutores musicais são diferentes em cada ambiente gráfico, as customizações também variam de ambiente para ambiente.
Cada ambiente tem seu site com temas para você personalizá-lo, mas a instalação de programas é a mesma, quanto a isso nada muda.

Entre 32 e 64 bits, prefira a 32 bits, até mesmo pelo Wine que funciona muito bem em 32 bits, mas se quiser quebrar a cabeça, tente instalar o Wine64
Pessoas ainda reclamam que o flash também não funciona tão bem no 64 como no 32.

Já entre alternate e live-cd, a diferença está entre um ser instalado sem modo gráfico e consumir menos memória na instalação - o alternate - e o outro ter uma instalação mais fácil e ainda te permitir testar o sistema antes de mandá-lo para o HD - o live-cd.

*Eu não estou afirmando que um copiou o outro, mas que um se parece com o outro, se parece.