Предлагаю небольшую подборку из разных источников, но в основном из конспекта Б. А. Успенского «Мифологический аспект русской экспрессивной фразеологии».

…Матерщина имела отчетливо выраженную культовую функцию в славянском язычестве; отношение к фразеологии такого рода сохраняется в языке и при утрате самой функции.
Матерщина широко представлена в ритуалах языческого происхождения - свадебных, аграрных и т.п., - т.е. в обрядах, связанных с плодородием: матерщина является необходимым компонентом обрядов такого рода и носит безусловно ритуальный характер; аналогичную роль играло сквернословие и в античном язычестве. Одновременно матерщина имеет отчетливо выраженный антихристианский характер, что также связано именно с языческим ее происхождением. Соответственно, в древнерусской письменности - в условиях христианско-языческого двоеверия - матерщина рассматривается как черта бесовского поведения. Показательно обличение "еллинских [т.е. языческих] блядословий и кощун и игр бесовских" в челобитной нижегородских священников, поданной в 1636 г. патриарху Иосафу I:"Да еще, государь, друг другу лаются позорною лаею, отца и матере блудным позором, в род и горло, безстудною самою позорною нечистотою языки своя и души оскверняют». Авторы челобитной обличают здесь матерщину, которая на Руси была непременным(ритуальным) атрибутом языческих "игр" (святочных, купальских и т.п.), и при этом именуют мат "блядословием".

( Прим. В древнерусском языке слово бл*дь использовалось не только для обозначения "распутной женщины". Бл*дью назывался "обман" и"обманщик" (блудить - вводить в заблуждение), "ересь" и "еретик", "воровство" и "вор" (соответственно, "воровать" - "прелюбодействовать"; само слово вор образовано от вьрати - "врать", и его первичное значение -"лгун, обманщик, мошенник). Таким образом, бл*дью могли называться и женщина, и мужчина. Заблудиться (в пространстве) - состояние, связываемое с вмешательством нечистой силы. В восточнославянской традиции путников "водят" чаще всего леший, черт, лесной или болотный человек).

Матерщина обличается в указах Алексея Михайловича 1648 г.; в одном из них подчеркивается недопустимость сквернословия в свадебных обрядах: чтобы "на браках песней бесовских не пели, и никаких срамных слов не говорили". Здесь же упоминается и о святочном сквернословии: "а в навечери Рождества Христова и Васильева дня и Богоявления Господня [чтобы] колед и плуг и усеней не кликали, и песней бесовских не пели, матерны и всякою неподобною лаею не бранилися". Обычай сходиться в святочные и купальские дни "на бесчинный говор и на бесовские песни" осуждается и в постановлениях Стоглавого собора 1551 г., и соответственно - в указах Ивана Грозного в 1552 г., которые также направлены на искоренение реликтов язычества в народном быту.

Способность материться приписывается домовому, кликуше, черту. В полесской легенде происхождение черта связано с тем, что когда Спаситель "тягнул из пекла людей один не стерпел и паруски загнул матам. И Исус Христос его не взял, и он заделался чортом". Замечательным образом матерщине приписывается здесь решающая роль в космогоническом катаклизме.

В ряде случаев матерная брань оказывается функционально эквивалентной молитве. Так, для того, чтобы спастись от домового, лешего, черта, предписывается либо прочесть молитву (по крайней мере, осенить себя крестным знаменем), либо матерно выругаться - подобно тому, как для противодействия колдовству обращаются либо к священнику, либо к знахарю. Аналогичным образом с помощью матерщины могут лечить лихорадку, которая понимается вообще как демоническое существо, разновидность нечистой силы. Возможны случаи, когда молитва не помогает, а действенной оказывается только ругань (якобы домовой не боится креста и молитвы). Равным образом, как молитва, так и матерщина является средством, позволяющим овладеть кладом, охраняемым нечистой силой. Так же магический обряд "опахивания", совершаемый для изгнания из селения эпидемии (= нечистой силы) сопровождается или молитвой, или шумом, криком и бранью.

Поскольку те или иные представители нечистой силы генетически восходят к языческим богам, можно предположить, что матерная ругань восходит к языческим молитвам или заговорам, заклинаниям; с наибольшей вероятностью следует видеть в матерщине именно языческое заклинание, заклятие.

Матерщина может выступать у славян в функции проклятия; связь с языческим культом при этом несомненна. Подобное употребление матерщины засвидетельствовано в южно-славянской, а также в западно-славянской письменности. В анонимной болгарской хронике 1296-1413 гг. слово "изматерили" означает в контексте не просто "обругали", но именно "прокляли".

Соответственно, глагол, восходящий к слав. *jebati, может выступать в значении "проклинать", например, чешск. jebati - "проклинать".

Для выяснения роли матерной брани в языческом культе особый интерес представляет поучение против матерщины, в котором говорится, что матерным словом оскорбляется, во-1-х, Матерь Божия, во-2-х, родная мать человека и, наконец, "третья мать" - Мать Земля ("Повесть св. отец о пользе душевней всем православным христианом", приписываемое иногда Иоанну Златоусту). В одном из вариантов этого поучения утверждается, что матерная брань наказывается стихийными бедствиями, которые могли осмысляться как гнев земли: "и за то Бог спущает казни, мор, кровопролитие, в воде потопление, многие беды и напасти, болезни и скорби".

… Основное значение принадлежит Матери Земле, которая может ассоциироваться как с женщиной-матерью так и с Богородицей: речь идет, собственно, о материнском начале, которое прежде всего выражено в культе Матери Земли, а с принятием христианства распространилось на Богородицу. Сопоставление Матери Земли с родной матерью человека достаточно обычно в древнерусских текстах; это сопоставление может принимать характер прямого отождествления. Важно отметить в этой связи, что в обличениях матерщины как правило, говорится о том, что брань поносит не только (или не столько) мать собеседника, к которому обращено ругательство, но прежде всего - родную мать самого бранящегося; это вполне понятно, если иметь в виду, что по своему первоначальному смыслу матерная брань является не оскорблением, а скорее заклинанием, заклятием, проклятием и т.п., о чем уже говорилось выше. Соотнесенность матерщины именно с родной матерью человека соответствует соотнесенности ее с Матерью Землей или Богородицей, которые и находятся к нему в том же отношении, что родная мать. Вместе с тем, Земля и Богородица воспринимаются как "общая мать" всех людей.

Исключительно характерно в этой связи магическое совокупление с землей, имеющее, несомненно, языческое происхождение; именно так иногда объясняют ритуальное катание по земле в аграрных обрядах. Знаменательно, что в одном древнерусском епитимейнике такое действие приравнивается к матерщине и другим оскорблениям родителей: «Аще ли отцю или матери лаял или бил или, на земле лежа ниц, как на жене играл, 15 дни [епитимии]"; отсюда вообще запрещалось лежать на земле ничком.

В обращении девиц к празднику Покрова с просьбой о замужестве обыгрывается внутренняя форма названия этого праздника, причем невеста уподобляется земле: "Батюшка Покров, земелечку покрой снежком, а меня молоду женишком".
… В апокрифической литературе и в фольклорных текстах погребение мертвеца может трактоваться как брачное соединение с землей, как брачная ночь. Соответственно объясняются обряды приготовления тела к погребению и обычай надевать чистую одежду в случае смертельной опасности.

Поскольку земля воспринимается как место обитания предков, культ земли непосредственно смыкается с культом предков. Соответственно, бытовало представление, что матерщина тревожит покоящихся в земле "родителей". Ср. характерное уподобление матерной брани заупокойному поминанию, в частности, помянуть родителей как эвфемистическое выражение, означающее "матерно выругаться", а так же характеристики крепкой матерной брани, типа мертвый очнется. В "Службе кабаку" говорится о тех, кто "вместо понахиды родитель своих всегда поминающе матерным словом".

К этому же ряду относится и использование глагола костить в значении "бранить". Слово кость (кости) может выступать в значении "останки, тело умершего", а также "род, племя"; соответственно шевелить мертвые кости означает "поминать усопших". Древнее фразеологическое единство кожа и кости дает представление об облике мертвого тела (отсюда вторичное значение худобы, изможденности в случае применения этого выражения к живому человеку).