要するに、異世界の文化がどういうものか考えてる、地球とは違うからこれと同じというのは違和感があるためどのような形にするか助言が欲しい、ということなんだろうか。

まず大前提として、人間は自分が知ってること以外は想像できないので、まったく新しい形を想定するのは人間の限界を超えてるので無理。
なんらかのモデルを用意して、そこに手を加えていく形を取ったほうが良い。
＞母系社会があり得ても女権社会があり得ないことを考えれば、
母系社会なら女性側に権利があると思うのだけど、社会的に男性側に権利が傾いてるのは単純に「力」で解決してきた古代や中世の、それこそ文化によるところでしょう。
であれば問題解決の手段を女性側が持つような世界観を作りゃ女性社会になると思うよ。
まあ、女性は子供を産めるし男性は産めないので、男性は家庭など内を守ることができず社会など外で守る事になるので、その外である社会で女性より男性のほうが立場が高くなるのは当たり前だし、日本でも確か平安頃は母系で相続してたりして家庭内での男性の立場は著しく低いってことなかったっけか。
でもそうなると内でも外でも女性が強いってことになるから、男いらね状態だと思うし、文化として成立しにくいんじゃないかな。

となると、あくまで男と女っていう性の観点から考えた答えだけど、社会的に女性の立場は低く男性が強いというのは異世界でも自然とそうなるだろうし、文化人類学はあくまで人類をベースに考えてるからこれをモデルにするなら人類の社会と大きく反れた思想は無理だと思うよ。

ではどうしたら「新しい社会思想」を考えられるかって考察すると、モデルを人類から動物や昆虫の社会にうつして考えりゃいい話。
例えば蟻や蜂は一個の社会を形成してると言えるよね。こういう虫を参考にしてみたら？　どっちも「女王」でしょ。スレ主さんが言う女権社会が成立してる社会じゃないかな。
異世界の住人の姿が人間に近いとして、けれど女王蟻のように卵産みまくるってのも気持ち悪いから、女王のみが与えることのできる何か、を想定すりゃいいんじゃね。女王蟻の「卵」を別のなにか「能力」とか「権限」とかあるいは曖昧に「加護」とか。
神ではなく女王（女性）のみが与えられる加護によって、みたいな。
基本的には男性社会と同じで要職には男性が多いけど、そのトップは「加護」の理由で常に女性だし、女王という存在があるから相続なんかも基本的に母系になって、一見して男性社会のようではあるけど実情は社会的にも女性のほうが強い。

スレタイの に思想の自由を発達させることは可能か は、前提にある「近代的自我なしに」がわかんなくて、いまいち理解できない。
一概には言えないけど、西洋で思想の自由が妨げられたはどう考えても宗教のせいでしょ。
近代的な自我を持たなくても多神教の古代ギリシャとか一神教が根付く前のオリエント周辺とか普通に思想の自由があったと思うよ。

＞近代的自我の概念がもたらされる以前には最大でどのくらいなのか
なのでコレは、宗教次第だと思う。
そもそも西洋の古代や中世は「宗教」＝「常識」なとこあるし。
宗教がないとするとその「常識」を国レベルでまとめることが出来ないから、それこそ魔法やスキルやで解決するか、宗教にかわる「教え」を考える必要があるんじゃないかな。

＞近代思想に代わる別の思想的変革、いわば「替わりの社会学」があるとしたらどのようなものか
人類をモデルにするなら人類の社会とさして変わらないはず。
確かに人類同士でも理解しえない文化の差はある。例えばキリスト圏ではキリストの復活伝説から死後の遺体は保存する習わしがある。だから遺体を燃やすなんてのはこの上ない不道徳なこと。でも、仏教圏では火葬するのが供養で遺体を放置するなんて事が不道徳なこと。
でも、これも結局はその物事の背景にあるものの違いであって、生物学的に違いがある思想ではない。
だから、そういう「人類の間でも文化の差はある」と同じように「異世界人の間でも文化の差はある」わけだから、異世界においても文化の差がある事自体が人類社会と変わらないはず。
そして、それを回避したいと思うのであれば虫や動物など別の、生物的にまったく違う行動を持つ生物の社会を参考にすると良い。