Proudhon 1809. január 15-én született a svájci határhoz közeli Besançonban, apja szegény kádár és anyja szakács volt. A kiváló szellemi képességekkel megáldott fiú nyomdász lett, de magánúton tovább tanult, elsajátította a latin, a görög és a héber nyelvet, s megismerkedett az ugyancsak besançoni utópista szocialista Charles Fourier-val, akinek gondolatvilága nagy hatással volt rá. 1838-tól a besançoni akadémia ösztöndíjával Párizsban tanulhatott, ekkor írta meg első jelentős művét Mi a tulajdon? címmel. Proudhon ebben nemcsak azt jelentette ki, hogy „anarchista vagyok”, hanem azt is, hogy „a tulajdon lopás”. A tulajdonnak azt a fajtáját ostorozta, amely nem saját munkán és méltányos cserén alapul, hanem a termelőeszközök tulajdonosainak monopolhelyzetén, ami lehetővé teszi az idegen munka jogtalan kizsákmányolását.
1843-ban Lyonba ment és egy hajózási cég ügyvezetője lett. Itt került kapcsolatba a takácsok titkos társaságával, a mutualistákkal, akik úgy vélték, hogy a gyárakat munkásszövetségek is vezethetnék – Proudhon az ő nézeteik hatására nevezte el az anarchizmus általa kidolgozott változatát mutualizmusnak. Számos szocialista gondolkodóval ismerkedett meg, Marxszal vitába is keveredett, mert ellenezte annak tekintélyelvű, centralista nézeteit a szocialista mozgalom szervezéséről.
1846-ban Párizsban adta ki A gazdasági ellentmondások rendszere avagy A nyomor filozófiája című munkáját, amelyben a munkásmozgalom célját nem a magántulajdon megszüntetésében, hanem „negatívumainak” (konkurencia, monopólium, tekintély, állam) felszámolásában látta. Olyan szabad társadalmat képzelt el, amely a munkaeszközökkel és a földdel szabadon rendelkező munkásszövetkezetek társulásával valósul meg és az értékek szabad cseréjére épül.
A következő évben Marx A filozófia nyomorúsága című, könyv terjedelmű vitairatában élesen szembefordult Proudhon elképzeléseivel, aki 1848-ban már a Louis Blanc-féle szocializmust is elvetette, ezzel teljesen elszigetelődött a munkásmozgalomban. Részt vett ugyan az 1848. februári párizsi forradalomban, megválasztották képviselőnek is, de a nemzetgyűlés „kinevette” a népbankra vonatkozó indítványát, Marx pedig a „nyárspolgári fantázia szüleményének” nevezte a társadalom átformálásának ezt a naiv módszerét.
A forradalom bukása után a Proudhon által szerkesztett négy lapot bezúzták, őt magát perbe fogták és három évre börtönbe zárták. Fogsága nem volt túl szigorú: látogatókat fogadhatott, kiengedték a városba is, megnősült, sőt börtönévei alatt nemzette első gyermekét. A cellájában írt, Általános elgondolások a XIX. századi forradalomról című munkájában fejtette ki vízióját a föderatív világtársadalomról, ahol nincsenek határok, megszűnnek a nemzetállamok, a hatalom a települések egyesülései között oszlik meg, a törvényeket pedig szabad szerződések helyettesítik.
A könyvért vallásgyalázás miatt ismét eljárást indítottak ellene, és háromévi fogságra ítélték, de a börtön elől Belgiumba szökött. 1862-ig maradt emigrációban, ekkor született a nacionalizmus kritikáját adó, A föderációs elvről című könyve, amelyben a központosított hatalommal szemben a föderalizmust, a társulásos formákat hirdette.
Pierre-Joseph Proudhon 1865. január 19-én hunyt el a francia főváros Passy kerületében. Halálos ágyán fejezte be utolsó művét (A dolgozó osztályok politikai képességei), amelyben azt fejtegette, hogy csak a munkások szabadíthatják fel magukat, mégpedig gazdasági eszközökkel, alapvetően szövetkezés útján. Sírja a Montparnasse temetőben található.
Proudhon eszméi fontos szerepet játszottak az 1864-ben alakult Nemzetközi Munkásszövetségben, az I. Internacionáléban, nagy hatást gyakoroltak az anarchizmus orosz teoretikusaira, Bakunyinra és Kropotkinra, az orosz narodnyikokra és a 19. századi európai föderalista, szindikalista, anarchoszindikalista mozgalmakra. 1867-ben jelentek meg Párizsban még életében kiadott összes munkái huszonhat kötetben, hátrahagyott iratait tizenegy, majd levelezéseit tizennégy kötetben 1875-ben publikálták.