1857. december 3-án, az akkor Oroszországhoz tartozó Berdyczówban (ma Berdicsiv, Ukrajna) született Józef Teodor Konrad Korzeniowski néven. Apját, a költő és Shakespeare-fordító Apollo Korzeniowskit a lengyel függetlenségi mozgalomban való részvétele miatt a cári hatóságok Vologdába száműzték, ahová felesége és ötéves fia is követte. Szülei korai halálát követően anyai nagybátyja nevelte Krakkóban. Rossz tanuló volt, a földrajzot kivéve unta a kötelező latin- és görögórákat, inkább távoli utazásokról álmodozott, különösen Afrika érdekelte.
Szeretett olvasni, Shakespeare és Flaubert művei mellett a lengyel romantikus irodalom és Victor Hugo A tenger munkásai című regénye hatott leginkább a sokat betegeskedő fiúra. Egy olaszországi és svájci utazást követően úgy döntött, nem tér vissza Lengyelországba, inkább a tengert választja, matróznak áll.
1874-ben Marseille-be utazott, és egy francia hajón nekivágott a tengereknek. Kalandjai során találkozott azokkal a különös emberekkel, akikről később regényeinek hőseit mintázta. A szilaj természetű tengerész adósságokat halmozott fel, ráadásul az orosz konzul megtagadta a munkája folytatásához szükséges engedély kiállítását, ezért (más forrás szerint szerelmi bánat miatt) 1878-ban öngyilkosságot kísérelt meg, mellkason lőtte magát.
A sebesülésből végül felgyógyult, nagybátyja kifizette adósságait, de állását elveszítette, így kénytelen volt egy angol kereskedelmi hajóra elszegődni, noha ekkor csak franciául tudott, angolul egyáltalán nem. Nagy szorgalommal tanulta, azonban a mindennapi beszélt nyelvet sosem tudta jól, sok nyelvtani hibával, gyatra kiejtéssel és emiatt állandó szorongásokkal beszélte – mégis az angol prózastílus egyik nagy mestere lett belőle. Első novelláját, a Félvért már angolul írta 1884-ben (más forrás szerint 1886-ban), amely aztán 1908-ban jelent meg nyomtatásban.
Tiszti vizsgáit sikeresen letette, idővel kapitánnyá küzdötte fel magát; bejárta az Indiai-óceánt, a maláj szigetvilágot, a Sziámi-öböl kikötőit, de eljutott később Dél-Amerikába is. 1886-ban megkapta az angol állampolgárságot, 1890-ben pedig beteljesült az álma: eljutott Belga Kongóig. Az utazás azonban nemcsak A sötétség mélyén című regényét inspirálta, de aláásta amúgy is gyenge egészségét. Láztól elgyötörve tért vissza Angliába, és bár humora és iróniája később sem hagyta cserben, egészsége a kongói utazás következtében végleg megrendült. 1895-ben jelent meg első regénye, az Almayer légvára, és még ugyanebben az évben megnősült.
A tengeri élettől visszavonulva Kentben telepedett le, minden idejét az írásnak szentelve. Termékeny írói éveiben és az 1913-as Véletlen című regényének nagy népszerűséget hozó amerikai megjelenése után is (ekkor tekintélyét angol kortársai közül talán csak Thomas Hardyé múlta fölül) magányos, zárkózott, depresszióra hajlamos, nehéz természetű ember maradt.
Regényeiben az ember természetét, cselekedeteinek indítékát kutatta, atmoszférateremtő képességét és drámai realizmusát Kiplinghez hasonlították. Művei gyakran tengereken, távoli, egzotikus tájakon játszódnak, rejtélyes, idegen hangulatoktól áthatva. A lassú, részletező, pontos leírások és a fenyegető végzet felé haladó cselekmény ellentétéből roppant feszültség keletkezik. Fölbontott időrend, az elbeszélői nézőpontok gyakori variálása mind olyan sajátosságai Conrad írásművészetének, amelyek az életművet a modern prózairodalom kiemelkedő darabjává teszik. 1900-ban jelent meg a Lord Jim, amely a felelősség elől egyre távolabbi vidékekre menekülő hajóskapitány megrázó képe. 1904-ben látott napvilágot a Nostromo, amelyet ma is az egyik legjobb 20. századi angol regénynek tartanak.
1920-ban lovagi címet ajánlottak fel számára, ő azonban nem fogadta el a kitüntetést. Idős korában sokat utazott, gyermekkorának lengyelországi helyszíneit éppen az I. világháború kirobbanásakor kereste fel. Az Egyesült Államokba is eljutott 1923-ban, ahol lelkes rajongótábor fogadta. 1924. augusztus 3-án szívrohamban halt meg, Canterburyben temették el. Az emlékének szentelt múzeum 2008-ban nyílt meg szülővárosában. 2007-ben a kijevi Lengyel Intézet által alapított díj, 2009 óta pedig nemzetközi irodalmi fesztivál őrzi nevét Krakkóban.
1899-ben jelent meg legismertebb műve, A sötétség mélyén, amelynek modern feldolgozása Francis Ford Coppola 1979-es mesterműve, az Apokalipszis most. Conrad története James Gray amerikai filmrendezőt is megihlette, Brad Pitt főszereplésével 2019-ben mutatták be a kisregény nyomán készült Ad Astra – Út a csillagokba című sci-fit.
