El modulo gzip debe estar activado en el servidor. Muchos no lo activan porque consume recursos de CPU de manera que lo que se gana por un lado se pierde por otro. Si no está activado WordPress no hará uso de él.

Sobre los cachés no te puedo ayudar mucho porque nunca he sido partidario de usarlos, en mi opinión dan más quebraderos de cabeza que otra cosa y en ciertos casos no se aprecia gran diferencia comparados con otros blogs sin caché. Como todo es una opción dependiendo del servidor, cantidad de artículos y criterios personales.

Un saludo

Como dice LGrusin, utilizar cache es un quebradero de cabeza, y más si luego no vez diferencias en la carga de la web (lo que me sucede), lo que si sé es que tengo Gzip activado y tengo un ratio de compresión muy bueno, lo que según las herramientas online que he probado me dicen que es bueno para mi web.

No se que versión de WP utilizas pero el plugin WP-CACHE hace tiempo que es WP-SUPERCACHE corríjanme si me equivoco.

Me temo que las pruebas en local no se parecerán en nada a hacer pruebas en remoto. Entre otras cosas porque el servidor local lo controlas y configuras tú y el remoto no… 😉

Un saludo

Hacer pruebas en local tiene una gran diferencia que probar en internet, ya que en modo local además de configurar y controlar todo, como dice LGrusin, la velocidad de carga será mucha mayor, ya que no necesitarás de una conexión a internet para probar por lo que no tendrás limitaciones en el ancho de banda que utiliza una prueba en internet.

Lo que me parece es que puedes tener algún plugin o función que te está consumiendo recursos y que vuelve tortuga a la página, prueba a cambiar por el theme original (theme por defecto) para ver si la velocidad de carga es la misma o es mucho mejor, si es así, entonces el problema puede estar en el theme: muchas imágenes, funciones que hacen muchas consultas a la DB, entre otras cosas.