Anadolu’nun en eski camilerinden biridir. Anadolu’daki mimarlık tarihinde, cami iç mekân fikrinin gelişmesinde önemli bir yapıdır.
Avlusuna üç yönden girişi ve düz damlı, dikdörtgen planlı, kufe tipli cami sınıfına giren ender örneklerdendir. Kubbe fikrinin henüz gelişmediği bir dönemde yapılmıştır. Bazı bilim adamlarına göre Danişmendi dönemi eseri olarak da kabul edilmektedir. Danışmendliler 1085–1178 yıları arasında Sivas, Kayseri ve Malatya’ya yerleşmişlerdir. Tokat, Niksar Ulu Camii (1145), Kayseri Ulu Camii (XII. . ortaları), Tokat Yagıbasan (Çukur) Medrese (1151-52), Niksar Melik Nizamettin Yağıbasan (1157-58), Niksar Kulak Tekkesi ile Türbesi; Kayseri-Pınarbaşı –Türbe Köyü Melik Danişmend Kümbeti Danişmendli eserlerinden bazılarıdır. Danişmendliler 1178’de Selçuklulara bağlanmasına rağmen adlarına yapılan yapılar yüzyılın sonuna kadar uzanmaktadır. Sivas Ulu Camii’nde Danişmedli döneminin önemli eserlerinden saymak mümkündür. Böylesine önemli bir eserin ne yazık ki avlusuna 1974 yılında betonarme bina yapılarak avlu plan tertibi bozulmuştur.
Asıl ibadet alanına, kuzey duvarının tam ortasında asıl ve köşelere yakın yerlerden birer olmak üzere üç ayrı kapı ile girilmektedir. İbadet alanının kuzey-güney doğrultusundaki Kıbleye (güney duvarı) dikey uzanan on bir sahnı oluşturan kesme taş örgülü yığma 50 adet kırma ayak birbirine sivri kemerlerle bağlanmıştır. Mihrap eksenine uzanan orta sahın diğerlerinden biraz daha geniş tutulmuştur. Ulu Cami, 54. 70 x 33. 70 m iç ölçülerindedir. Yapının asıl giriş kapısı ile diğer kapıları süslemesizdir. 1955 yılı onarımında ortaya çıkarılan özgün mihrabın üzerinde, birbirini kesen sekizgenlerden geometrik örgü motifli iç içe iki sekizgenin kenarlarından çıkan kollarla kesilmesi ile kareler oluşturan süsleme elamanları bulunuyormuş. Onarımda mihrabın süslemeleri taş malzemeyle sade bir şekilde düzenlenmiştir. Üstünde yukarıya doğru gittikçe daralan yedi sıra mukarnaslı kavsaradan başka süsleme elamanı görülmez. Ulu Camii’nin Osmanlı Devrine ait 23 mezardan oluşan bir haziresi bulunmaktadır. Kutbettin Melikşah döneminde Kızılarslan bin İbrahim tarafından Kul Ahi’ye yaptırılan caminin 1955 yılındaki onarımı sırasında, hem yapım hem de onarım yazıtı bulunmuştur.
