Primeiro tem que ter um computador, pode até ser PC (mais com HDs Raid para este caso é mais recomendado). Instalar os servidores http, smtp e pop no mínimo. Mas o servidor http tem que também ter suporte à PHP e MySQL (ou outra linguagem semelhante para executar a interface dos servidores smtp e pop).
Após o maquinário tem que ter um espaço na Internet, aí tem que ter os servidores DNS e alguns outros como de segurança. Depois de ter tudo tem que ter uma concessão que te conecte na Internet (empresa de telecomunicação). Pois terá que ter um domínio que seja conectado ao teu computador (servidor).
Enfim, seria mais fácil se você usasse pelo menos um SO Gnu/Linux pois nele é possível instalar todos os servidores necessários. Também, neste SO tem todas as instruções necessárias para que possa colocar no ar um servidor.
Eu creio que se você não tiver "grandes" planos como oferecer serviços não compensa muito disponibilizar um serviço deste diretamente de seu próprio servidor, pois uma concessão para a Internet tem um valor elevado para se manter mensalmente. Também tem que levar em consideração a manutenção - se não tiver uma equipe competente, fatalmente sofrerá tantos ataques que não terá como se defender nem de 10% deles.
Leve em consideração também a manutenção física dos computadores locais, pois se oferecer contas gratuitas elas poderão crescer em números significativos em pouco tempo lhe obrigando a estar sempre "aumentando" os recursos de suas máquinas, como aumentar o HD, mudar processadores, memórias, trabalhar com quotas...
Pesquise na comunidade de usuários Linux que você terá uma visão melhor deste "outro mundo" e verá que é melhor depender de serviços de terceiros (pois eles já têm o maquinário apropriado e uma equipe formada).
Reeditando: se você observar os vários servidores na Internet, observará que normalmente eles mantêm apenas o servidor web, sendo que o servidor smtp e pop fica em outro local (outra empresa), assim como os bancos de dados são remotos - praticamente eles operam com servidores burros (só se ocupam em armazenar contas ficando os outros serviços com outras empresas).