Sejarah panjang Yakuza dimulai kira-kira pada tahun 1612, saat Shogun Tokugawa berkuasa dan menyingkirkan shogun sebelumnya.
Pergantian ini mengakibatkan kira-kira 500.000 orang samurai yang sebelumnya disebut hatomo-yakko (pelayan shogun) menjadi kehilangan tuan, atau disebut sebagai kaum ronin.
Seperti kata pepatah : “orang yang hanya punya martil cenderung melihat segala sesuatu bisa beres dengan dimartil..”, demikian juga dengan kaum ronin ini. Banyak dari mereka menjadi penjahat dan centeng. Mereka disebut sebagai kabuki-mono atau samurai nyentrik urakan yang ke mana-mana membawa pedang. Mereka berbicara satu sama lain dalam bahasa slang dan kode rahasia. Terdapat kesetiaan tingi di antara sesama ronin sehingga kelompok ini sulit dibasmi.
