Veščina, ki je predhodnik karateja, je kitajsko-indijskega izvora, in jo glede na ustna izročila uvrščajo v čas okoli 2600 pred našim štetjem. Iracionalna filozofija, ki je prisotna že od samega nastanka veščine, priča o tem, da so bili začetniki veščine duhovniki ter pridigarji zgodnjih bližnje-vzhodnih religij, ki so prakticirali asketsko življenje in veliko potovali.
Začetek arhaičnega karateja, katerega duhovni oče je indijski menih Bodhidharma, sega v leto 520, ko je le-ta prišel na Kitajsko, da bi razširjal zen-budizem. Po obisku na cesarjevem dvoru, se je ustavil v samostanu Shao Lin. Opazil je, da so bili duhovniki zelo šibkega zdravja. Zato je oblikoval sistem telesno-dihalnih vaj z imenom “Shih-pa Lohan Shou” ali 18 Kung-Fu tehnik, ki jih danes poznamo kot kata Sanchin. Iz teh tehnik se je kasneje razvil Shaolinski Kung-Fu, ki je imel zelo pomemben vpliv pri nadaljnjem razvoju karateja.
Za zibelko modernega karateja velja otok Okinawa, kjer je pod močnim vplivom prvin kitajske veščine in lokalnih tehnik bojevanja z golimi rokami, po mirovnem sporazumu med Japonsko in Kitajsko leta 1372, nastala veščina Okinawa-Te, bolj znana kot ‘Tote’ ali ‘Kitajska roka’. Po spremembi režima na Kitajskem so pod vladavino dinastije Chin leta 1662 samostan Shao Lin požgali. Številni kitajski mojstri so zbežali na Okinawo in s seboj prinesli prve antične kate ‘passai’ oziroma ‘bassai’, ki so postale sestavni del karateja.
V japonskih vojaških silah so opazili, da so rekruti iz Okinawe v bistveno boljši psiho-fizični kondiciji, kot japonski, saj so se ‘Kitajsko roko’ učili že v šolah. Zato so leta 1917 v Center za borilne veščine v Kyotu povabili Gichina Funakoshija, ki je s svojimi učenci izvedel prikaz ‘Kitajske roke’. Demonstracija je prisotne nadvse navdušila in od dogodka govorimo o nastanku japonskega karateja, ki leta 1920 dobi japonski naziv “prazna roka”. Gichin Funakoshi je odtlej ‘misionarsko’ poučeval karate po celi Japonski in leta 1924 ustanovil prvi karate klub. Funakoshi je karate reformiral tako v metodološkem kot tudi filozofskem smislu, čeprav je praktično v istem času s ‘Kitajsko roko’ Choki Motobu na javnih sejmih premagoval prvake drugih borilnih veščin in s tem znatno pripomogel k popularizaciji veščine. Za Motobuja je karate bil zgolj praktična veščina, medtem ko je Funakoshi poudarjal njegov filozofski in duhovni pomen, kar je bilo bolj v skladu s takratnim mišljenjem.
Funakoshijeva šola karateja je postala znana kot Shotokan, poimenovana po učiteljevem peresu s katerim je zapisoval načela karateja.
Kmalu po drugi svetovni vojni, okoli leta 1950, predvsem preko ameriških oficirjev, karate postane mednarodni šport. S priljubljenostjo preraste ozke okvire tradicionalne veščine in postaja vse manj japonska nacionalna posebnost. V tem času so bile ustanovljene številne karate organizacije in zveze, med katerima sta izstopali WUKO – športni karate in ITKF – tradicionalni karate. Mednarodni olimpijski komite obe ugledni zvezi potrdi in postavi zahteve, da zvezi poskrbita za poenotenje karateja. Iz zveze WUKO leta 1994 nastane WKF – Svetovna karate zveza, ki trenutno zaključuje načelno zbliževanje obeh karatejev.
V Sloveniji se je karate prvič pojavil leta 1968, ko je bil ustanovljen tudi prvi karate klub, kateremu so hitro sledili še številni drugi. Že leta 1969 je karate odbor kot Karate zveza Slovenije izstopil iz Judo zveze Slovenije in začela se je samostojna pot, ko je zveza še istega leta organizirala prvo karate prvenstvo Slovenije.
Po večletnem prizadevanju vseh karate zvez in organizacij, ki delujejo pod okriljem Svetovne karate zveze (WKF), je 3. avgusta 2016 Mednarodni olimpijski komite uradno dodal karate med 28 športov na Olimpijskih igrah 2020 v Tokiu.
Sanje karateistov se s tem uresničujejo!