Um servidor com duplo processador compensa quase sempre quando comparado com dois servidores em que cada possua um CPU equivalente a cada um dos seus homólogos. Só a partir de 4 CPU´s tal poderá não se verificar.
Compensa em consumo energético, compensa em custo (regra geral de hardware, espaço em rack, licenciamento de software e gestão), compensa em performance. Se o problema se encontra no sub-aproveitamento do software, virtualiza-se.
A ter em atenção o ponto especificado pelo anjo2. A capacidade de I/O por parte de um dos maiores bottlenecks, os discos rígidos, é essencial. Actualmente, o escalonamento da capacidade de processamento só deve parar, quando a capacidade de I/O dos discos não for mais escalável (isto em ambiente web). Quando utilizados processadores modernos, uma camada de virtualização nem se sente.
Para uma comparação mais correcta, coloca as especificações das duas máquinas e respectivos custos.
PS: Um acesso socket ao MySQL é sempre mais rápido que o acesso TCP. O acesso TCP implica sempre latência, que quando comparada com o acesso ao disco / RAM, é bastante considerável. Não há necessidade neste caso.
