Группы якудза построены по принципу жёсткой иерархии и их внутренняя жизнь регулируется различными кодексами поведения. Такие группы есть почти на всех японских островах, а также кое-где за границами Японии. В разговорах якудза пользуются особым жаргоном и в наши дни выдают себя обычно за бизнесменов. С 1993 года отношение властей к якудза стало значительно более жёстким, что было спровоцировано получившим большую огласку инцидентом нападения на кинорежиссёра Дзюдзо Итами членами клана Гото (яп. 後藤組 гото:-гуми?). Теперь даже принадлежность к гуми (банда якудза) уголовно наказуема, что всё больше вынуждает современных якудза к переходу на нелегальное положение. Вследствие этого обострились отношения якудза с полицией (эти отношения в силу истории формирования феномена якудза не всегда были плохими) и упал их общественный авторитет.
Центральной фигурой в иерархии якудза является оябун (яп. 親分?, «шеф»), который примерно соответствует русскому вору в законе. Иногда в качестве синонима для оябуна используется обращение кумитё (букв. «старший начальник»).
Банды якудза, как правило, состоят из старших бригадиров сятэй («младшие братья»), младших бригадиров вакасю («юнцы») и простых якудза.
