Narodil sa v rodine kníhtlačiara Karla Kryla, v ktorej mali tri deti, staršiu sestru Máriu a mladšieho brata Jana. Maturoval v roku 1962 na Strednej priemyselnej škole keramickej v Bechyni. Pracoval v teplickej porcelánke.
V roku 1967 sa presťahoval do Prahy. Jeho prvou vydanou piesňou bola Nevidomá dívka, ktorú v roku 1968 nahrala skupina Bluesmen a naspievala Hana Ulrychová. V marci 1969 vydal prvú LP platňu s názvom Bratříčku, zavírej vrátka. V septembri 1969 emigroval do NSR, pracoval v rozhlasovej stanici Slobodná Európa. V roku 1971 nahral v Nemecku koncertnú verziu platne Bratříčku, zavírej vrátka. Tá sa potom do Československa dovážala ilegálne v obale platne ako Viedenské valčíky. V Nemecku vydal Karel Kryl ďalšie LP platne Rakovina, Karavána mraků, Plaváček či Vůně. Do Československa sa vrátil až po nežnej revolúcii v roku 1989. Jeho predstava o novom štáte však bola iná ako samotná realita, tak sa vrátil do Mníchova. Tam zomrel 3. marca 1994 vo veku nedožitých 50 rokov. V pesničkovej tvorbe pokračuje jeho mladší brat Jan Kryl, ktorý v auguste 2008 vydal album Není bratr jako bratr.
Jeho umeleckú piesňovú tvorbu dnes dokumentujú viaceré vydané albumy. V novembri 2005 vyšla kompilácia Šuplíky / Mé nejmilejší písně a v novembri 2006 reedícia jeho prvého albumu Bratříčku, zavírej vrátka. V apríli 2009 vychádza album Živě v Československu 1969, na ktorom je unikátny záznam vystúpenia Karla Kryla pred jeho emigráciou. V novembri 2009 vyšiel album Ostrava 1967-1969, na ktorom sú Krylove predexilové nahrávky. V júli 2010 vydal Supraphon audioknihu básní Zas padá listí a v septembri 2011 DVD Koncerty 1989/1990.
V novembri 2012 vydal Supraphon CD a DVD s názvom Karel Kryl – Kdo jsem? Tento komplet ponúka na DVD hudobno-poetický film režiséra Dušana Rapoša z roku 1993, čo je 86 minút pesničiek, veršov a rozprávania. Je to pohľad za oponu duše skvelého československého pesničkára, básnika a človeka. Dušan Rapoš bol posledným, kto stihol nakrútiť filmový dokument tak špecifickej osobnosti, akou Karel Kryl bol.
Pred mesiacom vydal Supraphon ďalší zvukový dokument, album s názvom Karel Kryl: Solidarita-Mnichov 1982, čo je záznam mníchovského koncertu z roku 1982. Solidarita je prienikom Krylovho repertoáru zo 60. a 70. rokov, doplnený o novinky zo začiatku 80. rokov. Okrem známych hitov Bratříčku či Anděl sa Kryl na tomto zázname predstavuje vo viacerých pesničkárskych podobách.