Hola Hugo, estás en local si has instalado en tu ordenador un programa como el WAMP, que lo que hace es hacer que tu ordenador "emule" a un servidor.
Estás en remoto si estás trabajando en un servidor remoto. Un servidor remoto puede ser gratuito (por ejemplo en páginas que ofrecen hosting gratuito como
www.000webhost.com se puede conseguir disponer de servidor gratuito) o de pago (por ejemplo los de 1and1, arsys, etc.).
La diferencia es qué máquina se encarga de servir la página web: si tu propio ordenador gracias a wamp, con lo cual no estás trabajando usando internet, o si un servidor situado en un sitio lejano, con lo cual estás usando internet.
Antes de instalar joomla tienes que crear la base de datos y tener los datos de la base de datos (nombre de la base de datos, nombre de usuario, contraseña).
Nosotros en general estamos aconsejando trabajar en remoto, si no se dispone de un hosting de pago, con uno gratuito.
En el artículo que te he indicado explica cómo ir paso por paso:
a) En local con wamp
b) En un servidor remoto
Aclárame si estás en local o en remoto, y si vas leyendo el artículo, si has podido crear la base de datos y sabes el nombre de base de datos, el usuario y contraseña.