Основана в XIV веке, с конца XIX группировка стала международной. Первоначально организация занималась защитой (включавшей самые жестокие методы) владельцев апельсиновых плантаций и дворян, владеющих крупными земельными участками, в основном от себя же самих. Это были зачатки рэкета. Позже Коза Ностра расширила ареал своей деятельности, став преступной группировкой во всех отношениях. С 20 века главным направлением деятельности Козы Ностры стал бандитизм.

Организация состояла в виде группы, называемой «семьёй» (famiglia). Сама «семья» имела жёсткую иерархическую структуру, подчинённую так называемому крёстному отцу — padrino. Территория деятельности «семьи» разделялась на своеобразные «округа», которые могли состоять из улиц, районов или даже целых провинций. Каждый округ контролировался, обычно, тремя семьями, которые избирали своего лидера (такого лидера называют иногда capo di capi — голова голов). Этот лидер выбирал своего заместителя и ещё от одного до трёх советников (консильери).

Термин «Коза Ностра» сейчас относят исключительно к сицилийской мафии, а также выходцам из Сицилии в США. Он используется для того, чтобы отличить международные преступные структуры от традиционной сицилийской.