La forma mas sencilla que se me ocurre, sin tener que crear un nuevo componente heredado de TServerSocket que permita limitar el número de conexiones, es poniendo esto en el evento OnAccept del TServerSocket//---
void __fastcall TForm1::ServerSocket1Accept(TObject *Sender,
TCustomWinSocket *Socket)
{
if (ServerSocket1->Socket->ActiveConnections > 1)
Socket->Close();
}
//---