Babası Rum olan Basil Zaharoff, 1849'da Muğla'da doğdu. Çocukluğu, gençliği İstanbul'da geçti. İngiliz okuluna giderek yabancı dil öğrendi. 16 yaşında, zamanın itfaiyesi olarak bilinen tulumbacı ocağında iki yıl kadar çalıştı. Zaharoff gibi bazı tulumbacılar, kimi evleri kundaklayarak sık sık yangın çıkarıyor ve ardından yangını söndürmek için ev sahibinden rüşvet talep ediyorlardı. 1870'lerde, önce Londra'ya sonra Kıbrıs'a yerleşti.

28 yaşında Nordenfeldt adlı bir silah firmasında çalışmaya başladı. Kısa sürede yükselip firmanın Balkan bölgesi temsilciliğine getirildi. Çalıştığı firma ilk denizaltıyı piyasa sürmeyi başardı. Zaharoff, bu denizaltıları önce Yunanistan'a, sonra Osmanlı'ya ve daha sonra Rusya'ya satmayı başardı. Bu üç rakip devletin her birine denizaltıları farklı fiyattan satarak, ticari zekasını ispat etti. 1877-1878 Osmanlı-Rus Savaşı'nda aktif rol oynadı. Kendisi ve şirketi büyük paralar kazandı.

1890'larda ABD menşeili Maksim şirketinde çalışmaya başladı. 1897 Osmanlı- Yunan Harbi, Çin-Japon Savaşı, 1898 İspanya-ABD Savaşı dönemlerinde ülkelere silah pazarlamaya ve zenginleşmeye devam etti. Maksim şirketine ortak oldu. 1897'de şirket el değiştirdi. Zaharoff, kısa bir sürede şirketin tek sahibi oldu. Yunanistan Başbakanı Venizelos ile samimi bir dostluk kurdu. 1912-1913 Balkan Savaşları döneminde Yunanistan'a 2.5 milyon sterlin yardımda bulundu. Bunun nedeni, kendisinin Rum kökenli olmasıdır.

I. Dünya Savaşı'ndan hemen önce David L. George ile tanıştı. 1915'te David L. George, İngiltere mühimmat bakanlığına getirildi. Böylelikle İngiltere hükümeti ile de sıkı ilişkiler kurmayı başardı. 1915'te İtilaf Devletleri'ne Yunanistan'ın yanlarında savaşa girmesi konusunda baskı yapmaya başladı. Fakat Yunanistan Kralı Konstantinos, İtilaf Devletleri'nin yanında yer almaya karşıydı. Venizelos ve Zaharoff, Kral Konstantinos'u devirmek için kampanya başlattı. Zaharoff, kampanyayı finanse etti. Bunun için gazete çıkardı, bir başka gazeteyi de satın aldı. Bu gazetelerde Kral Konstantinos'u topa tuttu. Nihayetinde Yunanistan 1917'de İtilaf Devletleri tarafında savaşa dahil oldu.

Zaharoff, savaş döneminde servetine servet kattı. İtilaf Devletleri'ni de kıskacına almayı başardı. Savaş sırasında Avrupa siyasetine yön vermeye başladı. 1919'da İngiltere Kralı V. George, Zaharoff'a 'Sir' unvanı verdi. Zaharoff, Fransa'yı da etkisi altında tutuyordu. Fransa'daki basını kontrolü altına almaya başladı. Fransa'da radyo ajansı ve bir gazete satın aldı. Ayrıca Paris'te bir de banka satın aldı. Bu dönemde Fransa tarafından kendisine 'Yüksek Şövalye Nişanı' verildi.