Bátyjával, Jakob Grimm-mel együtt adta ki világhírű népmese- gyűjteményét. A szájhagyomány útján terjedő német mesék végleges nyelvi, művészi formája főként az ő műve. A régi német irodalommal is foglalkozott, többek között megjelentette az Edda-dalokat és két kötetben a német mondákat. Élete végén a bátyjával közösen szerkesztett Német szótáron dolgozott.
A Grimm testvérek a kasseli Friedrichsgymnasiumban tanultak, majd ennek befejezése után mindketten jogot hallgattak a Marburgi Egyetemen. 1837 és 1841 között öt kollégájukhoz csatlakozva megalakították a Göttingai Hetek csoportját, és Hannover királya, I. Ernő Ágost ellen tiltakoztak, aki az egyetemek és államuk autonómiáját fenyegette. E miatt azonban a király utasítására mindannyiukat elbocsátották állásából, így a politikai tevékenységtől más felé fordult az érdeklődésük.
A Grimm testvéreket leginkább a német mesék gyűjteményes kiadása miatt ismerik. Az 1812-ben megjelent Kinder- und Hausmärchen (Gyerek- és Házimesék), és ennek második 1814-ben (1815-ös dátummal) megjelent kötete hosszú és alapos kutatómunkán, és mesegyűjtéseken alapult, ám mégis inkább irodalmi munkának tekinthető, mivel a fivérek egységes, saját szöveggel látták el a több változatban élő meséket. Ezek közül nemzetközileg a hetedik (1857-es) angol nyelvű kiadás vált ismertté és elterjedtté. A gyerekek számára kiadott verzió azonban egy jóval könnyedebb és enyhébb történeteket tartalmazó mesekönyv, mint amit a Grimm-mesék eredeti kiadása takart (ezért is van, hogy az eredeti történeteket nálunk is csak 1989-ben adták ki először, és melynek jóval kegyetlenebbek, sötétebbek és véresebbek mint a mesék szövegei). A boszorkányok, manók, koboldok és sötét erdőkben lakó gonosz farkasok illetve az ősi falvak emberei a szakértők szerint a kor német pszichéjének leképeződései.
Bár Németországon kívül kevésbé ismert, ám a Grimmek az első német szótár, a Deutsches Wörterbuch létrehozói is. Akkor Martin Luther német nyelvű Bibliája óta a standard német nyelv megalkotása felé ez a szótár volt az első lépés. A 20 kötetből álló munka még ma is a német etimológia alapja.