Posso usá-lo sem instalá-lo?

Sim. O download portátil é um arquivo zip: descompacte-o em qualquer lugar, incluindo um pendrive, e execute-o. Sua lista de downloads e configurações permanecem em sua própria pasta data, então nada é gravado no computador. Veja o modo portátil.