Usa en lugar de system(...) la instruccion de WIN32:UINT WinExec(LPCSTR lpCmdLine,
UINT uCmdShow);
Donde el primer parametro es el archivo .EXE
que quieres ejecutar y el segundo es una constante que puede ser SW_SHOW , SW_HIDE ...,
SW_HIDE lo ejecutara oculto...