1968. godine Zharov je diplomirao na Hemijskom fakultetu i primljen u vojsku. Služio je u Bakuu u PVO, gde je delovao kao basista vojnog vokalno-instrumentalnog ansambla.

Žarov je svoje prve pesme napisao početkom 1970-ih, kasnije je često nastupao na muzičkim festivalima i koncertima. Osamdesetih godina 20. veka Žarov je zauzeo prvo mesto na festivalu autorskih pesama, zatim su nagrađene njegove pesme „Aksinja“ i „Ušanoćka“.

1990. godine izvođač je objavio album ,,Ušanoćka", koji je njegovom tvorcu doneo široku popularnost. Žarov je mnogo putovao, svirao bas gitaru i usnu harmoniku, osnovao grupu „Amnesti-2“.

Takođe je napisao pesme za svoju ćerku Alenu Žarovu, koja je 2006. objavila album „Scarlet Sails“, piše „Gazeta.ru“.

2005. izvođač je osvojio nagradu za šansonu godine.