Felvidéki szász családba született első fiúgyermekként 1835. június 26-án Hermann Károly Ottó néven. Magyarul hét évesen kezdett tanulni, és csak tizenkét éves korától beszélte a nyelvet. Apja sebész volt, aki emellett rajongott a természetért és több jelentős ornitológussal tartotta a kapcsolatot. A fiatal Ottó mindenféle bogarat és pókot hordott haza tanulmányozni, megleste a madárfészkeket, és értett a preparáláshoz is. 1847-ben költöztek Miskolcra, ahol elkezdte tanulmányait az ágostoni hitvallású esperes középtanodában. Tanára Mándy Iván volt, aki a tudományok mellett a hazaszeretetre is nevelte. Az 1848-49-es forradalomban és szabadságharcban az akkor tizennégy éves Herman Ottó is részt vett volna, mint ágyútisztító, de a szülői beleegyezés nélkül nem állhatott szolgálatba.
A szabadságharc leverése nagyon megérintette, magyarságának bizonyítékaként addigra megrövidítette a Hermann nevet Hermanra, majd elhagyta a Károly keresztnevét. Haláláig Kossuth Lajos nagy csodálója volt, az államférfit többször is meglátogatta torinoi száműzetésében. Lakatosmester segédjeként, majd gépgyárban dolgozott, apja is támogatta, hogy mérnöki pályára lépjen. Bécsben beiratkozott a politechnikum előkészítő tanfolyamára, de apja halála anyagi gondokba taszította a családot, így ott kellett hagynia. Géplakatosként dolgozott, de mellette járta a természetet és gyakori vendége volt a bécsi természettudományi múzeumnak, ahol megismerkedett a svájci Carl Brunner von Wattenwyllel, akitől sokat tanult a rovartanról.
Behívták katonának az osztrák hadseregbe, de a gyerekkora óta súlyosbodó nagyothallása miatt nem ment el, ezért katonaszökevénynek nyilvánították, és kényszerrel besorozták. Szimulálásnak vélték állapotát, így tizenkét év katonaságra ítélték, amiből jó magaviselet miatt hamarabb szabadult. Zólyom várában, majd a dalmát tengerparton szolgált, ahol annyira megkedvelték, hogy amikor ezredének parancsnoka távozásakor megkérdezte, mit szeretne, azt válaszolta: ?Engedjenek haza!? Így 1861-ben leszerelt, Alsóhámorba költözött, ahol hónapokig szinte csak vadászott. Harmincegy éves korában lett a kolozsvári Erdélyi Múzeum Egylet preparátora, ahol nagy intenzitással vetette bele magát a munkába.
A Magyar Polgár című lapban útleírásokat, társadalmi vonatkozású cikkeket jelenített meg, majd Trefort Ágoston kinevezte a Magyar Nemzeti Múzeum állattára őrsegédjének. Ekkortájt írta legjelentősebb munkáit: a magyar pókfaunáról, a magyar halászat történetéről, valamint több könyve is jelent meg a madarakról. Ezek mind a mai napig hivatkozási alapok a tudósok számára. Neki köszönhetjük, hogy elindult a magyar barlangkutatás, miután a Miskolcon talált szakócákat kiállítva bebizonyosodott, hogy Magyarországon is éltek ősemberek. Továbbá jelentős munkái vannak néprajz és nyelvészet terén is.
1885-ben vette el a nála húsz évvel fiatalabb Borosnyay Kamillát, aki nagy segítségére volt a szinte már süket Herman Ottónak. 75 éves korában pont emiatt a nagykörúton elgázolta egy villamos, de sérüléseiből hamar felépült, s újra munkához látott. Két évre rá szélütés érte, ezután már nagyon nehezen ment neki az írás. 1914-ben újabb balesetet szenvedett, ezúttal egy teherhordó szekér ütötte el. A sok fekvés miatt tüdőgyulladást kapott, és szívbénulás következtében 1914. december 27-én, 79 évesen elhunyt. A háború miatt Budapesten temették el, Miskolcra csak 1965-ben kerültek a hamvai, a végakarata szerint a felsőhámori köztemetőben helyezték örök nyugalomra.
Nevét országos biológiaverseny és a miskolci múzeum, valamint Miskolc város tudományos díja viseli. Lillafüredi nyaralója, a Pele-ház munkásságának állít emléket két kiállítás keretében. 2014-ben emlékezett az ország halálának 100. évfordulójáról, aminek keretében több szobrát is felavatták, egyet a Velencei-tó mellett. A Baár-Madas Gimnáziumban tanösvényt alakítottak ki, ahol a nebulók Herman Ottó életpályáját és munkásságát ismerhetik meg. Polihisztor-konferenciát tartottak, több díjat is átadtak, valamint egy vándorkiállítás is a megemlékezés része volt. A Duna Televízió négyrészes dokumentumfilm-sorozattal rótta le tiszteletét Herman Ottó, az utolsó magyar polihisztor címmel.
Bodor Máté