我國現代刑事警察體制，創始於民國三十五年，時中央於內政部警政總署設刑事處及刑事實驗室、各省警務（保）處設刑事科，並將原屬省、市、縣之偵緝隊改稱刑事警察隊。
臺灣光復之初，在省行政長官公署警務處第一科設調查股、第三科設鑑識股，縣市警察局於司法課置便衣員警若干名辦理刑事案件。三十五年八月警務處將上開調查、鑑識兩股，另增研究股，三者合併成立為刑事室；縣市警察局於第三課設置刑事股、分局設刑事組。
三十六年五月，長官公署改為省政府；同年八月，於省政府警務處增設刑事警官大隊、縣市警察局將原有之刑事股擴編為刑事科（課）。三十八年，中央播遷臺灣，警察總署縮編為警政司，總攬全國各種警察業務；同年八月，臺灣省原有刑事室及刑事警官大隊合併成立警務處刑事警察總隊，由副處長兼任總隊長，設十個直屬偵防組，一個警官隊，另設二十六個刑警隊，分別配屬縣市警察局（所）兼受各該局（所）長之指揮監督。
四十七年五月刑事警察總隊改編為刑事警察大隊，總隊內勤偵防業務與警務處司法科業務合併並更名為刑事科，隊、科同為警務處之內勤單位；原配屬各縣市警察局（所）之刑警隊，改隸各該警察局，原設之司法課亦更名為刑事課；迨五十四年七月，乃將刑事警察大隊改為直屬單位。
六十年十一月內政部警政司改制為警政署，設刑事科，兼掌臺灣省警務處刑事科業務。六十二年八月十一日開始籌備，並將臺灣省警務處前刑事科與臺灣省刑事警察大隊合署辦公，同年九月一日正式成立內政部警政署刑事警察局【組設為二科（第一科、第二科）、五室（紀錄室、刑事科學研究室、保防室、連絡室及行政室）、二隊（偵查第一、二隊）】，承署長之命統一指揮監督全國刑事警察工作，仍兼掌省刑事警察大隊業務（局幕僚單位主管均兼任刑事警察大隊幕僚單位主管，一般人員由臺灣省警務處刑事科及刑事警察大隊人員兼任掌理），各縣市警察局（所）之刑警隊與刑事課亦同時合併為刑警隊。台北、高雄兩市，因先後改制為直轄市，則擴編為刑事警察大隊，刑事警察之體制於焉大備。
六十三年三月二十八日國際刑警組織我國中央局之全般業務，經奉署長核定，移由內政部警政署刑事警察局接辦，復為應主、客觀環境之需要，於六十八年七月一日奉 核准在內政部警政署刑事警察局成立國際刑警科負責上開中央局全般業務之策劃、處理、執行與推展，並積極參與國際刑警組織之各項有關活動。
六十八年二月因應局勢變遷暨實際業務需要，刑事司法、指紋、鑑識等業務分自第一科、紀錄室及刑事科學研究室脫離改制，內部組設調整為七科（預防科、偵查科、司法科、紀錄科、鑑識科、防爆科及國際刑警科等）、六室（指紋室、法醫室、督導室、刑事科學研究室、總務室及保防室等）、三隊（偵查第一、二隊及警衛隊），一級單位計十六個。
七十二年五月為應業務需要，增設國際刑警無線電台，內部組設調整為七科（預防科、偵查科、司法科、紀錄科、鑑識科、防爆科及國際刑警科等）、六室（指紋室、法醫室、督導室、刑事科學研究室、總務室及保防室等）、三隊（偵查第一、二隊及警備隊）、一電台（國際刑警無線電台），一級單位計十七個；七十四年四月復應勤務需要，防爆科改置為特殊事件處理隊，一級單位仍維持十七個。
八十三年十二月二十三日內政部警政署刑事警察局組織條例公布，機關正式法制化，並配合「後續警政建設方案」，於上開組織條例案中，增設檢肅科、秘書室、資訊室及偵防犯罪指揮中心等四單位，其中資訊室由原任務編組電子資料處理組改置，另裁撤總務室成立後勤科、督導室、刑事科學研究室及警衛隊分別更名為督察室、刑事研究發展室及警備隊，任務編組偵查第三隊、特殊事件處理第二隊均予法制化，並均更名為偵查隊，一級單位計二十六個。省市自治法通過，省市首長於八十三年底民選後，為落實地方自治及順應時代潮流需要。內政部警政署與臺灣省政府警務處於八十四年四月十二日正式分立辦公，而刑事警察局與臺灣省政府警務處刑事警察大隊亦於八十四年十一月十七日正式分立辦公。台灣省政府警務處並於八十六年八月十六日更名為台灣省政府警政廳。
八十七年底因中央精簡台灣省政府組織編制，臺灣省政府警政廳刑事警察大隊於八十八年七月精簡，整併於刑事警察局。
九十年十一月二十一日通過修改內政部警政署刑事警察局組織條例，將專責辦理通訊監察作業之任務編組偵查第十隊法制化，改設通訊監察中心，復因內政部警政署刑事警察局係警政工作中，治安新聞重點所在暨配合前臺灣省政府警政廳刑事警察大隊員額納編作業，為應勤（業）務實際需要，併案增設公共關係室及偵查第七、八、九隊均予法制化，一級單位計三十一個。
九十一年十一月十五日奉內政部核定整合鑑識科、指紋室及法醫室以任務編組方式成立「刑事鑑識中心」，並於次年二月二十一日掛牌運作。此外，為健全犯罪偵查網絡，特於九十二年十一月三日在台中市與高雄市揭牌成立「中部打擊犯罪中心、南部打擊犯罪中心」，強化刑案偵防功能。
近來資訊與通訊發展已朝向結合趨勢，科技產品不斷推陳出新，電腦犯罪、白領犯罪、經濟犯罪問題上升，獲取不法經濟利益，危害社會治安，九十五年四月一日奉行政院核准整合刑事研究發展室、通訊監察中心、資訊室及偵九隊等單位成立任務編組「科技犯罪防制中心」，並於同年四月七日正式掛牌運作。
另為整合涉外案件偵防體系，有效打擊跨國犯罪，於九十六年七月十六日成立任務編組「外事警官隊」，職司涉外犯罪偵防及情資蒐報等任務執行，至原內政部警政署外事警官隊並自同日起停止運作，「外事警官隊」於九十八年五月四日更名為「國際刑事偵查隊」。
九十六年十一月為整合電信偵查犯罪相關資源，以增進偵辦科技犯罪之能力，奉內政部警政署核定電信警察隊任務編組移由本局指揮、監督、管制。