1835. június 26-án született Breznóbányán (ma Brezno, Szlovákia) szepességi szász családban, eredeti neve Carl Otto Herrmann volt. Tizenkét éves koráig csak németül beszélt, bár hétéves korától magyarul tanult. A természet iránt már gyerekként érdeklődött, ideje nagy részét megfigyeléssel és gyűjtögetéssel a szabadban töltötte. Orvos apját 1847-ben a Felvidékről áthelyezték Alsóhámorba, fia a miskolci evangélikus főgimnáziumban folytatta tanulmányait.
Mindenütt a szabadságért
Az 1848–49-es forradalom és szabadságharc idején, 14 évesen honvédnek jelentkezett, de az otthonról elszökött kamaszt atyai engedély híján hazaküldték. Németes nevét megkurtítva ettől kezdve Hermannak írta, és élete végéig Kossuth Lajos híve maradt. 18 évesen beiratkozott a bécsi politechnikumba, de apja halála miatt nem végezte el. Géplakatosnak állt, hogy segítsen eltartani édesanyját és hat testvérét. Bécsben rendszeresen bejárt a természetrajzi múzeumba, ahol egy tudós rovargyűjtő vele rajzoltatta meg rovartani dolgozatainak ábráit, és vele preparálta a rovarokat.
A császári sereg behívójára nem jelent meg, így 1857-ben büntetésből kényszerrel sorozták be: Dalmáciába vezényelték, és két évet szolgált Raguzában. 1861-ben leszerelhetett, de
1863-tól Kőszegen fényképészként dolgozott. Megismerkedett Chernel Kálmán ügyvéddel, természetbúvárral, akinek ajánlásával a Brassai Sámuel vezette kolozsvári Erdélyi Múzeum Egylet preparátora lett. Körutakat tett Erdélyben és a Mátrában, pókokat és madarakat tanulmányozott. Ekkor írta meg első színikritikáit és útirajzait a Magyar Polgár című kolozsvári lapba. A nagy szerelem Jászai Mari színésznő személyében érte utol, akinek a kezét is megkérte, ám a frigy nem jött létre, mert Jászai a Nemzeti Színházba szerződött.
Pókok, politika, pásztorok
1874-ben Budapestre költözött, és egy év múlva Trefort Ágoston vallás- és közoktatásügyi miniszter kinevezte a Magyar Nemzeti Múzeum természettudományi tárának őrsegédjévé. 1877-ben elindította és tíz évig szerkesztette a tár folyóiratát, a Természetrajzi Füzeteket. Megírta a Magyarország pókfaunáját feltáró háromkötetes könyvét, amelyben 314 pókfajtát, köztük 36 újat mutatott be. Felhívta a figyelmet a filoxéra veszélyére, és szorgalmazta a homoki szőlőtermesztést. Nagy része volt az Állatvédő Egyesület 1883-as megalapításában.
A Függetlenségi és 48-as Párt tagjaként kapcsolatban állt Kossuth Lajossal, akit Torinóban többször felkeresett. 1879-ben Szeged, majd később Miskolc, illetve Törökszentmiklós országgyűlési képviselőjévé választották. 1885-ben feleségül vette a nála húsz évvel fiatalabb Borosnyay Kamilla írónőt.
Halászok, pásztorok és szabad madarak
Megrendezte az országos millenniumi kiállítás halászati és pásztor bemutatóját, 1888-ban tanulmányutat tett Norvégiában. Az 1890-es évektől a néprajz, a nyelvészet, a paleolitikum kori régészet felé fordult, nevéhez fűződik a hazai ősemberkutatás megkezdése. Megírta A magyar halászat könyvét, elkészítette a magyar állattartás összefoglalóját és szakszótárát. Támogatta Miskolc és Borsod Vármegye Múzeumának megalapítását, a létesítmény 1953 óta a nevét viseli. Alapítója és 1892-től elnöke volt a Magyar Néprajzi Társaságnak, 1900-ban megkapta a francia Becsületrend lovagkeresztjét. 1891-ben nemzetközi ornitológus kongresszust szervezett, majd 1893-ban létrehozta a Magyar Ornitológiai Központot, a későbbi Madártani Intézetet, amelyet haláláig igazgatott. Az általa indított Aquila című folyóirat a hazai madártani kutatások központi orgánuma lett. 1901-ben jelent meg legnépszerűbb könyve A madarak hasznáról és káráról címmel. Miután Chernel István ornitológus először 1902-ben megszervezte a madarak és fák napját, kezdeményezte annak rendszeres megünneplését, amit aztán az 1906. évi I. törvénycikk írt elő az iskoláknak, majd egy 1994-es kormányrendelet május 10-ére tűzött ki.
Tizennégy könyvet, több mint 1100 cikket, tanulmányt, monográfiát írt a néprajz, a természettudomány, a barlangászat, a környezetvédelem, a nyelvtudomány és a régészet témakörében.
Hetvenöt éves korában Pesten a már alig halló, gondolataiba feledkező tudóst elütötte egy villamos. Akkori sérüléseiből még felépült, ám amikor 1914 decemberében egy szekér gázolta el, a lábadozás során kapott tüdőgyulladásba belehalt. Díszsírhelyen temették el a Kerepesi úti temetőben, 1965-ben hamvait végakaratának megfelelően Miskolcon, a felsőhámori temetőben helyezték végső nyugalomra.
A Miskolchoz tartozó Alsóhámoron egykori nyaralója, a Pele-lak 1964-től emlékházként működik. Szobra a lillafüredi Palotaszálló alatti függőkertben látható. Miskolcon gimnázium és emlékpark őrzi nevét, halálának 100. évfordulója alkalmából a város posztumusz díszpolgári címet adományozott neki. 2014-ben a budapesti Kossuth téren felavatták mellszobrát, és a Nemzeti Környezetügyi Intézet országos Herman Ottó-emlékévet szervezett a tiszteletére, ekkor avatták fel kőszegi szobrát is. 2015-től az addigi Nemzeti Agrárszaktanácsadási, Képzési és Vidékfejlesztési Intézet Herman Ottó Intézet néven folytatja munkáját, és Herman Ottó Szellemisége Díjat is alapított. Idén december elején a Néprajzi Múzeumban nyílt meg a „Legzseniálisabb s legmagyarabb tudósunk”: Herman Ottó című tárlat. A múzeum legnagyobb műtárgya a Herman Ottó gyűjtéséből származó, fából faragott, hatalmas bödönhajó.