Nao pesquisei nada sobre o assunto, mas caso domines o php penso que nao seja muito complicado de fazer o que pretendes.
Penso que com isto resolves o teu problema:Adicionas a tabela mensagens um campo "Lido" e sempre que o utilizador abrir a mensagem fazes um update a esse mesmo campo.
Depois fazes a listagem das mensagens com um
select * from mensagens
No codigo onde iras fazer a listagem fazes um IF.
Se o campo "Lido" = "Sim" mostras essa linha com uma outra cor, se nao for a linha aparece com a cor normal.
Espero ter ajudado