自民黨是在1955年由兩個保守自由主義政黨自由黨和日本民主黨合并產(chǎn)生，以抗衡當時廣受歡迎的日本社會黨。自民黨很快在選舉獲勝，在1955年組成日本第一個保守政府，占得政府中大多數(shù)議席。直到1993年敗選為止，自民黨保持了長達38年的一黨獨大制。
　　自民黨執(zhí)政后首先改革日本外交，例如加入聯(lián)合國和與蘇聯(lián)建交。它的領袖也使它成為1950年代日本主要政黨，那時所有的選舉都獲得了大多數(shù)票。它的唯一對手是左翼的日本社會黨和日本共產(chǎn)黨。1955年起，自民黨在國會占有過半數(shù)，而日本社會黨則為最大在野黨，以后每次選舉，這個均勢也從未被改變，故被稱為五五年體制。
　　1960年代，由1964年日本主辦奧運會開始，直至1972年日本宣布對越戰(zhàn)保持中立，和日本經(jīng)濟奇跡開始為止，這段時期自民黨和政府是由佐藤榮作領導。1970年代末，自民黨開始衰落。雖然它仍處領導地位，卻傳出多宗丑聞。新增了公明黨一員的反對派，也因此得到一點動力。
　　1970年代末，日本社會黨、日本共產(chǎn)黨和公明黨，還有國際都向日本施壓，要求它和中華民國斷交，與中華人民共和國建交。自民黨有份促成1980年日本的經(jīng)濟起飛和泡沫經(jīng)濟。80年代末冷戰(zhàn)結(jié)束，日本也有關(guān)鍵角色。
　　泡沫經(jīng)濟爆破和其他原因（例如里庫路特事件）使自民黨出現(xiàn)分裂，宮澤喜一內(nèi)閣在黨員倒戈下被國會通過不信任動議，并輸?shù)?993年選舉。勝出的幾個反對黨派，由屬自由派的新生黨領導組成政府，國會新人新生黨黨首細川護熙成38年首個非自民黨首相。別的聯(lián)盟成員有日本社會黨，公明黨，日本新黨，民社黨，先驅(qū)新黨，社會民主連合 (非自民·非共產(chǎn)連立政權(quán))。但是社會黨和先驅(qū)新黨遭聯(lián)盟忽略，于是離合執(zhí)政聯(lián)盟，轉(zhuǎn)向加入自民黨的反對行列。余下政黨嘗試組成少數(shù)派政府，但在1994年當社會黨和頭號大敵自民黨合組大多數(shù)聯(lián)盟后，這一嘗試終告失敗。自民黨于是再度得勢，雖然首相一位由社會黨坐上。
　　1996年自民黨在橋本龍?zhí)�郎帶領下再以多數(shù)黨執(zhí)政。日本共產(chǎn)黨、舊稱日本社會黨的社會民主黨，還有公明黨，并一些小政黨成了反對派。（日本新進黨、日本新黨和日本新生黨已解散。）先驅(qū)新黨則加入統(tǒng)治聯(lián)盟。
　　1996年至1998年，自民黨實際上沒遭到反對勢力。但在1998年民主黨成立，而且勢力日增，在2003年和2004年國會選舉尤其可見。但自民黨仍保持最大黨地位，繼續(xù)其執(zhí)政。
　　自民黨位于東京的總部
　　2003年11月10日，保守新黨并入自民黨，因它在2003年大選受挫，只贏得4席，黨主席更在原區(qū)競逐連任失敗。
　　前任日本首相小泉純一郎是來自自民黨。他曾派兵自衛(wèi)隊前往伊拉克，解散眾議院。自民黨與保守的佛教政黨公明黨聯(lián)盟。至今自民黨仍是最大黨。先驅(qū)新黨（那時改名為先驅(qū)黨）留在聯(lián)盟內(nèi)，直至2002年該黨解散，組成綠之會。綠之會是環(huán)保政黨，在國會沒有議席。它非正式的支持政府，但最后也解散了�，F(xiàn)在自民黨和公明黨組成了執(zhí)政聯(lián)盟。
　　自民黨從鄉(xiāng)村的保守農(nóng)民獲得最多支持，也是官僚、有名的集團企業(yè)和白領的政黨。自民黨經(jīng)常受丑聞困擾，很多時是政場大亨收了白領官僚的獻金。
　　在戲劇化演變的2003年眾議院選舉，自民黨贏了237席，日本民主黨贏了177席。在2004年參議院選舉，在改選議席中，自民黨贏了49席，但日本民主黨贏了50席。雖然最后自民黨乃占參議院114席，因為選舉失敗，前干事長安倍晉三請辭，但黨主席小泉純一郎只降了他的職，以武部勤取代他。
　　自民黨對國內(nèi)政策態(tài)度保守。雖然絕大多數(shù)黨領袖支持郵政民營化，但黨內(nèi)少數(shù)支持郵政國有，反對首相小泉的新自由經(jīng)濟政策，龜井派領袖龜井靜香后來更和原眾議院議長綿貫民輔，原國土廳長官龜井久興離開自民黨而另創(chuàng)國民新黨。
　　2006年9月20日，自民黨總裁選舉舉行，安倍晉三當選。[1]
　　2007年7月，自民黨在參議院選舉中慘敗，在此次參議院選舉中僅獲得37個席位，加上非改選議席，在參議院的議席總數(shù)由選舉前的110席減至83席，自1955年建黨以來首次失去了參議院第一大政黨的地位。而與此同時民主黨由81席增至109席，成為參議院第一大政黨。
　　9月12日，在參議院選舉失利后備受爭議的安倍晉三突然宣布辭去自民黨總裁，9月23日，自民黨總裁選舉結(jié)果揭曉，福田康夫在除麻生派的支持下(麻生包圍網(wǎng))成功當選，接替辭職的安倍晉三。�？上ЦＬ飪�(nèi)閣上任不久后就支持度低迷，而政府法案往往要利用眾議院三分之二多數(shù)才可通過。在2008年9月1日，福田康夫宣布辭去自民黨總裁職務，9月22日，曾任自民黨干事長的麻生太郎高票當選為總裁。惜麻生內(nèi)閣屢爆丑聞，在2009年連續(xù)輸了五次地方選舉，包括2009年東京都議會議員選舉，40年來首次失去東京都議會控制權(quán)。