T. vokste opp i et liberalt og velstående hjem i Kristiania Hans morfar var maleren Jacob Munch. Faren, apoteker H.C.T., samlet seg en betydelig formue. I hjemmet på Løveapoteket i Storgaten møttes en rekke av de betydeligste menn fra alle leire, med en viss overvekt på den radikale side, med Bjørnstjerne Bjørnson i spissen. Som personlighet kom Bjørnson alltid til å øve en viss innflytelse på T., som ved siden av malerkunsten fant tid til å følge med i det som skjedde innenfor litteratur, teater og musikk. Høsten 1862 meldte T. seg 14 1/2 år gammel, inn på Tegneskolen, og i aspirantprotokollen heter det at han var "bestemt til Maler". Fra denne tiden er det bare bevart en enkelt tegning, Hester i kamp (1862), som er helt forskjellig fra alt han senere foretok seg som kunstner. T. var ikke elev ved J. F. Eckersbergs malerskole, men holdt kontakt med elevene der. Gerhard Munthe og Eilif Peterssen ble i slutten av 1860-årene hans venner. I noen tid tilpasset han seg miljøets sosiale forventninger. Han tok eksamen artium 1866, anneneksamen 1867 og farmasøyteksamen i mai 1870. Ifølge en kilde skal han så ha tilbrakt en tid i Hamburg for å forberede seg på å overta farens apotek, mens han i sin fritid begynte å male. Fra slutten av året var han i København og i kontakt med kunstakademiet der. Hans lærer ble marinemaler Carl Frederik Sørensen, som ikke var formelt tilknyttet akademiet, og hvis innflytelse på T. er vanskelig å definere nærmere. Vel så mye å si fikk hans jevnaldrende malerkamerater Eilif Peterssen, Holger Drachmann og Michael Ancher, som han hadde omgang med i København En liten samling oljestudier (privat eie) later til å stamme fra året 1872. De gir inntrykk av å være påvirket av Hans Gudes kystbilder i sin lette og luftige karakter, og sannsynligheten taler for at T. hadde truffet ham i Norge, da Gude dette året malte studier langs Sørlandskysten. Det må være denne tidlige kontakten faren hentyder til, når han i et brev til sønnen 1872 skriver at: "Jeg vil kun kort sige, at Stormesteren Hans Gudes Bifald ikke har overrasket mig". Det første bilde T. solgte til Kunstforeningen i Kristiania, Marine efter Storm (privat eie), er fra samme år. Et skip krenger på et opprørt hav der bølgene slår mektig over klippene i forgrunnen. En stor Marine med forfallen rorbu (1873, privat eie) har et mer idyllisk preg, men er lite artikulert i fargen. Derimot virker komposisjonen utstudert med et visst preg av eleganse. Under den følgende studietiden hos Gude i Karlsruhe (1873–74 og 1874–75) gjorde T. et seriøst inntrykk på sine medelever.
Maleren Frederik Collett skriver at "jeg i det hele er tilbøielig til at underskrive Sindings Dom, i "at Thaulow er den eneste her som duer Noget"". Vennskapet med Collett fikk betydning for T.s videre utvikling. Marine med opptrukket båt (1875, privat eie) viser hvor langt Gudes innflytelse kunne strekke seg, med sin blanding av idyll og drama og hovedvekten på komposisjonen. Det skal også ha vært Gude som henviste ham til fargen som det element i kunsten som spesielt lå for ham. I den senere halvdel av 1870-årene ble Gudes påvirkning hurtig et tilbakelagt stadium, og i stedet orienterte T. seg i retning av moderne fransk friluftsmaleri. Her ble først Collett hans veileder, og fra 1875 svensken Carl Skånberg. Skånberg var "kolorist", og hans holdning til lys og luft var i slekt med den impresjonisme som på denne tid brøt fram i fransk kunst. En liten studie fra havnen i Le Havre (1875, privat eie) fra hans besøk der sammen med Skånberg, og hans løst henkastede portrett av Frederik Collett (1875, Oslo Bymuseum) med den tente sigaren, viser tydelig de nye sider ved T.s kunst. Et lengre opphold hjemme 1875–76 kan også tillegges en viss betydning, da han her fikk demonstrert sin evne til å samle et fruktbart miljø omkring seg. Moren skrev at "her var saa mange af Malere hjemme i Sommer, og de havde sit Standquarter hos os". Hun nevner spesielt Eilif Peterssen og Chr. Krohg. Et bilde Fra Christianias Havn (1876, privat eie), med Akershus i bakgrunnen og en landgangsbrygge i forgrunnen, viser fremdeles formale tilknytninger til Gude, men samtidig en utvikling i retning av nøktern realisme. Under gjentatte opphold i Paris i tiden 1876–79 ble denne utviklingen fortsatt. Særlig gjorde salongrealisten Jules Bastien-Lepage inntrykk på ham, noe som især ble ham bevisst på Salongen i 1879. Selv fikk han utstilt en serie kystbilder på Paris-salongene 1877–79. De er til dels inspirert av studieopphold på Lista 1877 og på Jæren 1878. Studien Fra Lista, fiskerbåter (1877, privat eie) er kjølig fornem i sine harmonier av blått, grått og brunt, mens Fra Jæren, landskap med telefonstolper (1878, Nasjonalgalleriet, Oslo) har en dristig komposisjon. Hans Strandbredd (1879, Bergen Billedgalleri) med små figurer er et breddebilde med en kjølig blå himmel og med en viss fransk atmosfære, skjønt scenen er fra Jæren. T. har selv oppsummert sin utvikling som marinemaler: "Har fra Begyndelsen af særlig studeret Marinemaleriet: Fremstillingen af det aabne Hav; Er lidt efter lidt gaaet over til at studere Kystnatur med stadig Interesse for det bevægede Hav. Har altid foretrukket "Graaveirets" bløde Farver for Solskinnets skarpe Lys og Skygger" (desember 1877).
I mai 1879 sendte han for utstilling i Kunstforeningen Utsikt fra Montmartre (Nasjonalgalleriet) med to hvite hester i forgrunnen og med røykspyende skorsteiner i bakgrunnen. Det vakte uvilje blant kritikerne, som også hadde funnet enkelte av hans kystbilder for overfladiske. T. drog så til Skagen og traff der sin venn Chr. Krohg. Sammen besluttet de å prøve å slå igjennom hjemme i Kristiania Han skrev til Edvard Diriks: "Jeg er kommen til det Resultat at Bilder malen er noget Sludder og at man saavidt mueligt aldrig skal male andet end efter Naturen. Jeg bygger mig derfor et transportabelt Atelier til Vinteren". Av Skagenbildene kan man særlig fremheve det store Hjemvendende fiskere (1879, privat eie). I de første par årene i Kristiania (1879–81) kom han inn i en sterk utvikling som gjorde inntrykk både på publikum og presse. Den smule motstand som hans tidlige produkter hadde vakt, forsvant hurtig, og den moderate, franskinspirerte realisme ble anerkjent. T. ble fremfor alt byens maler. I Slottsparken fant han en rik kilde til motiver, slik som vårbildet Slottet (1880, privat eie), som fikk mange etterfølgere. At motivet med elegante figurer i et parklandskap ikke er av norsk opprinnelse, sier seg selv. Det første i serien er også malt før han kom til Norge, nemlig Høst. Fra Frederiksbergs Have (1879, privat eie). T. kunne også rendyrke de maleriske verdier i gulnende trær uten figurstaffasje, som i Bjerketrær (1880, privat eie) og I november, fra en park nær Kristiania (1880, privat eie). Genuint i sin Oslo-tone er Kongen, Motiv fra Akershus (1879, privat eie) med den store bronsekanon og flaggheisende gardister. Et par bilder av den samme kanonen uten gardister er fra 1880. Fra havnen malte han Fra bryggene (1881, privat eie), som den unge Edvard Munch fant "stygt". Dette bymaleri er fritt for spesifikk sosial tendens, motivene kan være hentet fra den elegante vestlige landevei (Fra Skarpsno, 1880, Nasjonalgalleriet), til den ydmyke østkanten (Fra Saxsegaardsgaten, 1880, Oslo Bymuseum), eller midt på Karl Johan (Stortingsplass, 1881, Oslo Bymuseum). Med samme suksess flyttet T. sitt staffeli til byens landlige omgivelser og malte Frøensjordet (1880, privat eie), et stort, sollysende landskap øyensynlig inspirert av Bastien-Lepage, mens Toget kommer (1881, privat eie, studie Nasjonalgalleriet) kan minne om impresjonistenes kombinasjon av landskap og frembrusende tog. Marinemaleren fornektet seg heller ikke helt, i 1880 erhvervet han en "lystkutter", og i årene som kom malte han en rekke friske studier fra sjøen, f.eks. Fisker i båt (1881, privat eie). En tidlig spesialitet ble det store, bølgende snølandskapet fra byens utkanter. Det første av dem var Smestadbakkene (1881, privat eie) med skiløpere og bygninger, et bilde som begeistret den unge Andreas Aubert: "Skaresne i hvidbleg Rosa og med luftlette Blaaskygger. Medens Fjernet var svagt, var Sneen givet med en Skjønhed, der vistnok paa denne Maade var noget nyt". Aubert hadde også en klar forståelse for at nye og uvante motivvalg ikke bunnet i noen oppfatning av at alt kunne males, men hadde sin grunn i rene kunstneriske overveielser. Han sier: "der er imidlertid et Moment, der ikke hidtil har fundet en tilsvarende Betoning. Det er Stemningens Forhold og Rækkevidde inden den Kunstretning, til hvilken Thaulow hører. Ved Siden af det i intens Forstand koloristiske har netop for denne hyppig Stemning en fremskudt og beherskende Interesse. Stemningen er selvfølgelig intet særligt for de nyere, - men dette, at de for Stemningens Skyld fatter Interesse for Motiver, som tidligere Kunstnere gik mer eller mindre ligegyldig forbi". (1882). Under det forholdsvis korte oppholdet i Kragerø 1881–82 malte T. flere av sine mest kjente bilder, Gate i Kragerø med akende barn (1882, Nasjonalgalleriet), Fra Kragerø, fjellvegg (1882, Göteborgs Konstmuseum) og Rentlergården (1882, privat eie). Disse bildene er koloristisk raffinerte, har en klar atmosfære og undertiden et stenk av melankoli. I Rentlergården er den overdimensjonerte portalen til venstre og de to ryggvendte figurene foran det forfalne huset ganske sikkert emosjonelt ladet, for i årenes løp vendte T. stadig tilbake til disse og andre spesielle motiver, f.eks. allerede i 1884 i vinterbildet Et begravelsesfølge (privat eie). Her er den store, murte inngangsportalen til kirkegården på en måte bildets hovedmotiv, mens følget beveger seg langsomt bort fra beskueren inne i billedperspektivets forsvinningspunkt. Under den senere del av 1880-årene og frem til 1892 ble T.s utvikling mer springende og flere ganger avbrutt av kortere opphold i utlandet. Det er lett å se at et bilde som Fra Slottsparken (1882, Nasjonalgalleriet) virker som en gjentagelse av bildene fra 1880, og Gammelt herresete på Grünerløkken (1882, privat eie) ligger i stemning nær opp til Kragerø-bildene. En ny serie med vinterbilder fra Vestre Aker fra tiden 1885–86, fra Telemark 1890 og fra Hvalstad i Asker 1891–92 gjentar skjemaet fra Smestadbakkene (1881), men de bidrog til å gjøre ham kjent i utlandet. Slike bilder ble innkjøpt til Luxembourg-museet i Paris og Nationalmuseum i Stockholm. Under et opphold i Paris 1882–83 fikk T. enkelte impulser fra impresjonistene, slik f.eks. Fra Luxembourg-haven (1883, privat eie) bærer preg av. Under det følgende opphold på Modum i 1883 ble det sagt at han malte med fransk "teint", dvs. impresjonistisk, og denne episoden førte til en hissig debatt i pressen der Lorentz Dietrichson, Erik Werenskiold og Andreas Aubert deltok. Inntrykket fra denne debatten var tydelig slik at de ledende realister ikke tok sikte på å innføre denne spesielle malerstilen direkte i Norge. På Modum malte T. sin ambisiøse Haugsfossen (1883, Nasjonalgalleriet) og fremfor alt den atmosfæriske pastellen Vinter ved Simoa (1883, privat eie), der han for første gang for alvor viste hvilke maleriske muligheter det lå i det langsomt flytende vann. Det såkalte Friluftsakademiet på Modum var et uformelt samvær med en rekke av de yngre realister, og det fikk en viss betydning for flere av dem, selv om T. bare deltok som lærer i 1883 og senere neppe vendte tilbake til stedet. På en tur til Skottland sommeren 1884 malte han Ettermiddag (1884, privat eie), i Venezia 1885 Under Rialtobroen (privat eie) og i Hamburg 1886 pastellen Elbpark (Göteborgs Konstmuseum). Etter å ha blitt separert fra sin første hustru i 1883 giftet han seg på ny i 1886 og slo seg for noen tid ned på Grini gård. Her malte han sin kjente pastell Isløsning (1887) med motiv fra Lysakerelva. Den finnes i en rekke varianter og ble senere spredt over hele Europa gjennom fargereproduksjoner. I 1880-årene fikk realistenes dyrkelse av den spesifikt norske landskapet av østlandsk karakter et mektig oppsving, og T. har gitt sitt eget bidrag til dette i bilder som Elv (1886, Rasmus Meyers Samlinger) og Fra Bærum (1887, flere varianter).
Ved midten av 1880-årene hadde T. og Krohg kommet mer på avstand fra hverandre. T. hadde ingen sans for Krohgs krav om et sosialt element i kunsten. Likevel treffer et bilde som Fra Kristianias Østkant (1888, privat eie) med sin juletravelhet i gaten den lokale koloritt uten bruk av oppstilte figurer og påtrengende litterær tendens. En grunntanke hos T. var det at kunstnerne skulle styre sine egne saker og at tidsmessige institusjoner måtte ivareta deres interesser. Han stod bak grunnleggelsen av Høstutstillingen i 1882 og Bildende Kunstneres Fagforening i 1887. Gjennom arrangementet "Borgen" i Slottsparken 1887 håpet han å få til et grunnfond for en kunstnernes utstillingsbygning, men tanken var på denne tid ennå ikke moden til å realiseres. Gjennom sin virksomhet i den eldre Kristiania Kunstnerforening håpet han en tid at et bredere kunstnermiljø ville oppstå og at teaterfolk, musikere og arkitekter ville gjøre felles sak med billedkunstnerne. Bohembevegelsen i 80-årene virket sprengende på alle forhold, og de politiske motsetninger brakte forstyrrelser inn i bildet. Mot slutten av årtiet kom han i et visst motsetningsforhold til Erik Werenskiold. En rekke av disse faktorer ligger bak det faktum at han forlot hovedstaden i 1888 og forsøkte å bosette seg på Vestlandet. En tid bodde han i Leirvik på Stord og malte Vestlandsnatur i bilder som Doktorhesten (1888, privat eie, studie Bergen Billedgalleri), Løvsprett (1889, Trøndelag Kunstgalleri) og pastellen Vinter på Stord (1889, Göteborgs Konstmuseum). I 1891 vendte han tilbake og lot seg velge som formann i Det norske Studentersamfund, mens han malte høst- og vinterbilder ute på Hvalstad i Asker. Sommer i Hokksund (1891, privat eie) med de to kuene langsomt diltende gjennom gaten gir et betydningsfullt bidrag til oppfatningen av det norske landskapet i 80-årene. Det holder balansen mellom det raffinerte og det realistiske, men det viser også at han neppe kunne ha fortsatt på denne vei uten fare for enten å henfalle til det manierte eller det banale. Løsningen for ham ble å søke seg ut for alvor og dermed fornye seg radikalt. Etter en felles utstilling med Werenskiold i Stockholm i 1892, flyttet han med sin familie til Frankrike. I tiden 1892–94 var han mest knyttet til Montreuil-sur-Mer og småbyene i omegnen. Særlig ble han fascinert av en Fransk fiskerhytte (1892, privat eie), der den lave hytten stenger for utsikten og en ryggvendt kvinne presser seg fram mot den kraftige vinden. Bildet ble sendt til Høstutstillingen sammen med Barkemøllen ved Montreuil, et av en serie motiver med en bred, rolig dam der himmel, trær og bygninger speiler seg. Først i Frankrike blir motivene med det rinnende vann en spesialitet som dyrkes for sin egen skyld. Den bløte atmosfære i de nordfranske kystbyer appellerte til ham, og T. oppdaget måneskinnets lys over landsbyens hus og torg. I dette var han selvfølgelig påvirket av malere som Jean Charles Cazin og James Whistler, noe som både da og senere er blitt påtalt med skepsis. Det vakte også oppsikt at han i 1893 fikk kontrakt med en ledende kunsthandler i Paris om salg av sine bilder bare gjennom denne. Dette fikk neppe noen stor betydning for hans utvikling som kunstner, da han i alle år fortsatte å stille ut sine bilder på salonger og kollektivutstillinger i de forskjellige europeiske land. Den stadige reisevirksomhet og de linjer som vil kunne spores i hans kunst, tyder også på at behovet for utvikling og fornyelse stadig var bevisst hos ham. I Montreuil-tiden faller vinteroppholdet i Paris 1892–93, der han malte Seinen i forskjellige måneder fra samme standplass. I Seinen i desember (1892–93, privat eie) skimtes Notre Dame i bakgrunnen mens en kraftig trebro svinger seg fram over vannet fra høyre. Dette og de øvrige i serien vakte stor oppsikt på Marsmarksalongen i 1893, og samme år hadde han suksess med sine pasteller på en egen fransk pastellutstilling i Paris.
Tiden i Dieppe (1894–98) ble en fruktbar periode. En serie med blåtonete sjøstykker med fiskebåter på byens havn eller ute til havs (1894-95) later til å være noe inspirert av Delacroix, og noen nattstykker fra landsbyen Arques-la-Bataille viser ham som stemningsmaler. Elvebildene fra Arques har et intimt preg, ofte med et stykke mur skytende fram i forgrunnen. Han kan også la elven slynge seg fram over en blomstrende slette mot en landsby i bakgrunnen, slik som i et par bilder datert 1895. Symbolmettet er også noen bilder fra Amiens fra tiden 1895–97, f.eks. Midnatt, Amiens (Nasjonalgalleriet), der to figurer speider ut over elvens mørke vann fra kanalens rekkverk. Mot slutten av denne tiden faller et kort opphold i Venezia 1897, der lagunebyens luft og friske koloritt atter en gang virket fornyende på ham. Like etter dette oppholdet malte han Ved Madeleine-kirken, Paris, Paris (1897, Nasjonalgalleriet), som er en frisk, impresjonistisk øvelse. Ved årsskiftet 1897–98 maler T. for første gang de røde fabrikkbygninger ved Akerselvas bredder under et kort opphold hjemme. De sene franske elvebildene fra Dieppe-tiden viser en tendens i retning av konstruksjon og orden, slik som de med kraftig utskytende kastanjetrær fra den ene siden (ca. 1896), og forsøkene på å forbinde elven og landsbyen med en liten bro i bakgrunnen (ca. 1897).
T.s kontaktskapende evne gjorde at han hadde utbytte av omgangen med de ikke-skandinaviske kunstnere i Frankrike. Grunnlaget for dette ble lagt da han fungerte som jurymedlem på Verdensutstillingen i Paris 1889, og da han sendte en serie med bilder til den nye Marsmarksalongen i 1890. Spesielt vinterbildene gjorde inntrykk, og hans behandling av det franske landskap ble oppfattet som original. Hans nye venner var lederne av den nye salongen, som Auguste Rodin, Puvis de Chavannes, Ernest Meissonier og Alfred Roll. Litt senere kom Claude Monet til, antagelig gjennom kunsthandler Georges Petit. I Montreuil- perioden ble T. midtpunktet for en krets av franske og belgiske unge kunstnere, og i Dieppe-tiden kom flere engelske til. Han pleide også omgang med menn fra litteraturens og teatrets verden. Et nytt marked åpnet seg i Amerika da han ble innbudt av Andrew Carnegie til å være jurymedlem ved den årlige utstilling i Pittsburgh i 1898. I årene som fulgte ble et kresent utvalg bilder kanalisert i denne retning. Han benyttet anledningen til å male motiver både fra Pittsburgh, New York og andre steder under rundreisen i USA høsten 1898. De siste årene i Paris (1898–1906) er preget av større aktivitet enn noensinne. Han var blitt rammet av diabetes, kalt sukkersyke i 1897, men forsøkte nå å motvirke sykdommen ved å holde seg i aktivitet som maler. Han reflekterte også over sitt standpunkt som kunstner. Som realist følte han at han måtte avvise 90-årenes symbolistiske og dekorative strømninger, skjønt han fulgte dem med interesse. I et brev til Andreas Aubert fra november 1898 skriver han: "Jeg maler nøiaktige, tørre og omhyggelige Studier; men jeg er kommen til, at Billeder er noget andet end Studier. I mit Atelier - det første jeg har haft paa 15 Aar - vil jeg søge at forenkle det jeg nu samler. Jeg føler mig ligesaa ung, febrilsk og begeistret som i Ungdommens Dage". I Venezia 1899 malte han Marmortrappen (privat eie) i en lys og lett tone og lenger inne i landet flere varianter av Broen i Verona. Under et nytt vinteropphold i Kristiania malte han Treschow Bro (1901, Lillehammer Bys Malerisamling) og senere samme år tallrike bilder fra Quimperlé i Bretagne, spesielt Vaskekoner i Quimperlé for Salongen i Paris 1902 (privat eie). Under en rundreise i Nord-Frankrike og Belgia sommeren 1902 valgte han med forkjærlighet motiver hvor landskapets store linjer kan gi seg uttrykk, slik som i Myr ved Frévent (privat eie). I 1903 oppdaget han en landsby og et landskap som passet hans gemytt, Beaulieu i Syd-Frankrike. Et stort antall bilder stammer fra dette oppholdet, som Landeveien ved Beaulieu (privat eie) med platanalleen, og en serie med utsikter over den flytende elv i høstfarger med et bølgende landskap bak.
I sine siste år 1904–06 lot T. ofte fargene spille med større dristighet enn noensinne, slik som i bildene fra Ottaelva under en tur til Norge i 1904, i Nyholm Vakt (1904, privat eie), malt under tilbaketuren i København, og i vårbildene fra Amiens i 1905 med det sterkt blåskinnende vann i kontrast med de hvite hus langs bredden. Særpreget er også de siste serier med bilder fra Nederland 1905, fra Lillehammer og Kristiania 1905–06 og fra Volendam, Nederland senhøsten 1906.
Som maler stod T. innenfor den realistiske tradisjon og mente at man hadde å forholde seg til naturen, men at denne skulle fortolkes subjektivt. Den musikalske og personlige farge var hans uttrykksmiddel. Hans utvikling var langsom, og selv om hans bilder undertiden kunne virke overfladiske, var ikke grunnlaget for dem uten dybde. Han var en dårlig elev, og av en maler som Gude tok han til seg bare det han ønsket å bruke, men han var på den annen side en god og inspirerende lærer, selv om han ikke kom til å danne noen skole.