Иницијатива за оснивање музеја у Новом Пазару покренута је на састанку Савета за просвету и културу, одржаном 27. јуна 1952. године. Већ почетком 1953. године формиран је Координациони одбор за формирање Градског музеја, а 10. јула 1953. године формирани су Савет, Управа и Комисија за процену ствари, тј. комисија за откуп експоната.

Крајем 1955. године за управника Градског музеја именован је Вукман Ћулафић, наставник историје, који је ову дужност обављао хонорарно, као и службеник Хивзо Шкријељ. Музеј је носио назив Градски до краја 1957. године, када му је име промењено у Рашки музеј у Новом Пазару.

Октобра 1959. године за хонорарног директора Рашког музеја именован је Ејуп Мушовић, професор историје у Учитељској школи. У наредних десет година Музеј је, услед недостатка финансија, практично престао да ради, да би 30. марта 1965. године Скупштина опшптине Нови Пазар донела нову Одлуку о формирању Рашког музеја. На седници СО Нови Пазар, 30. септембра 1971. године, донета је Одлука о изменама и допунама Одлуке о оснивању Рашког музеја у Новом Пазару. Члан 1, став 1. Одлуке мења се тако да гласи: „Овом Одлуком оснива се музеј у Новом Пазару под називом „Завичајни музеј“ у Новом Пазару“. По трећи пут, 1. јануара 1987. године, Музеј је променио назив, тј. постао је Музеј „Рас“ у Новом Пазару,

Крајем 1969. године СО је за потребе Музеја одобрила зграда у којој се налазила Школа ученика у привреди. Зграда потиче из средине XIX века и једно време у њој је била руждија (турска гимназија), а од национализације 1959. године, у њој се налазио Градски одбор, затим основна школа и Школа ученика у привреди. Како зграда наменски није одговарала потребама Музеја, а била је и руинирана, реконструсана је и адаптирана за потребе Музеја.

Након адаптирања зграде, током 1973. године рађена је стална поствака која је званично отворена 28. новембра исте године. Музеј је смештен у згради која је, са 331 м2 изложбеног простора , претесна да прими све експонате који би могли да се нађу пред посетилацима. Питање бољег смештаја Музеја требало је да буде решено у оквиру Програма рада Републичког одбора за истраживање Старог Раса са Сопоћанима. Овим програмом је било предвиђено да се изгради нова зграда Музеја, или евентуално адаптира нека већ постојећа, што није дозволила економска и политичка ситуација у земљи.

Убрзо након званичног почетка рада, почели су проблеми са зградом, на чијим зидовима се појавила влага, која је захватила све зидове приземља. Проблем је решен тек 2002. године када је урађено хоризонтално пресецање зидова уз уградњу хидроизолационог материјала. Након тога је, 2003/2004. године уследила и реконструкција целе зграде, а део таванског простор адаптиран је у депо.

За свој рад Музеј је добио низ признања, међу којима и: Захвалницу Завода за заштиту споменика културе из Краљева (1975); Повељу другарства ОШ“Иво Лола Рибар“ Војводине (1975); Новембарску диплому СО Нови Пазар за нарочити успех у раду (1981); Захвалницу Српског археолошког друштва, поводом 100-це постојања и рада (1983), .Захвалницу Народног музеја у Београду (1984); Повељу СО Нови Пазар поводом 40-годишњице ослобођења града (1984); Плакету Републичког СУБНОР-а (1988),

У свом педесетпетогодишњем раду Музеј „Рас“ постигао је изванредне резултате. Прикупио је преко 6000 експоната и већи број истих је стручно обрадио и средио по збиркама, уз напомену да се у Музеју не налазе експонати са археолошких истраживања: Петрове цркве, Ђурђевих Ступова, Напреља, локалитета Рас-Постење, као и са сондираних локалитета. Прикупљање нових експоната условило је и потпуне или делимичне промене у сталној поставци Музеја.

Музеј је био и организатор научних скупова: Симпозијума о Расу и споменицима у долини Рашке (1977), Саветовања музејских радника Србије, XV Годишње саветовање етнолошких друштава Југославије, Конгреса конзерватора Југославије (дела), три Годишње скупштине Српског археолошког друштва (1978, 1988, 2003) и Састанка секције за средњовековну археологију Српског археолошког друштва (1998). Поводом десетогодишњице смрти дугогодишњег директора Музеја, крајем марта 2006. године организован је научни скуп под називом „Историјски осврт на простор где се родио и стварао др Ејуп Мушовић“. У раду скупа су учествовала најзначајнија имена друштвених наука, а цео 29-ти број Новопазарског зборника посвећен је овом скупу. У оквиру скупа организована је и велика изложба слика и графика новопазарског академског сликара мр Мехмеда Слезовића.

Музеј је постигао изванредне резултате и у издавачкој делатности. Већ следеће године након отварања, 1974. штампана је прва књига, а потом су уследила бројна издања.

Најзначајнија акција Музеја на плану издавачке делатности је издање „Новопазарског зборника“. Први број овог годишњака штампан је 1977. године и убрзо је распродат цео тираж од 1000 примерака. Закључно са 2007. годином, из штампе је изашло 30 бројева Зборника који је високо оцењен у научним круговима и који изазива велико интересовање, не само у нашој земљи, већ и у иностранству.