18 мая 1921 года приказом НКВД ССР Абхазии за № 65, в соответствии с указанием Ревкома, в Советской Социалистической Республике Абхазия была создана Рабоче-крестьянская милиция, представлявшей первоначально формирование в виде организации полувоенного типа, пользовавшейся Уставами Революционного комитета Красной армии.

10 ноября 1921 года рабоче-крестьянская милиция была преобразовано в отдельную милицейскую бригаду, которую возглавил Штаб Главмилиции. На первоначальном этапе общий штат милиции составлял 400 единиц.

Основная часть сотрудников абхазской милиции участвовала в Отечественной войне народа Абхазии 1992-1993 годов. На полях сражений погиб 41 работник милиции. Девяти из них присвоено звание Героя Абхазии, семь - посмертно награждены орденом Леона, 11 - медалью «За отвагу».  Всего более ста сотрудников были награждены боевыми орденами и медалями.

В послевоенный период при исполнении служебного долга погибло 64 сотрудника милиции.

18 июня 1996 года Парламент Республики Абхазия принял Закон "О милиции", в соответствие с которым, милиция в Республике Абхазия - это система государственных исполнительных органов власти, призванных защищать жизнь, здоровье, права и свободы граждан, интересы общества и государства от преступных посягательств и иных противоправных деяний и наделенных правом применения мер принуждения. Милиция входит в систему Министерства внутренних дел Республики Абхазия.

Милиция в Республике Абхазия состоит из центрального аппарата Министерства внутренних дел и управлений и отделов внутренних дел в городах и районах. Руководство милицией осуществляет министр внутренних дел. Городские и районные управления (отделы) внутренних дел, кроме этого, подчиняются соответствующим местных администрациям.

День милиции празднуется в Абхазии 10 ноября.