Тула в XVI—XVII веках с её кремлём была оборонительным рубежом южной границы страны. Поэтому тульские кузнецы с давних времён освоили технику производства различных видов оружия. Недостатка в сырье у них тоже не было, недалеко от Тулы находился карьер бурого железняка. Близость более крупного и лидирующего предприятия — Московской Оружейной палаты — способствовала наличию небольшого профессионального соперничества в изготовлении оружия. Но всё же тульские мастера наладили хорошие отношения с московскими мастерами и часто обменивались с ними профессиональными навыками. С переездом столицы в Санкт-Петербург первенство в изготовлении оружия перешло к Туле.

В феврале 1712 года по указу Петра I в Туле был основан Тульский оружейный завод, который вскоре начал поставлять большие партии для российской армии. После выхода указа Петра I о «сохранении для памяти на вечную славу» тульские мастера стали сохранять на заводе наиболее красивые и интересные образцы оружия. А появился музей позже, в 1775 году. Екатерина II, будучи в Туле на оружейном заводе, увидела уже большую к этому времени коллекцию оружия и распорядилась создать «Палату редкого и образцового оружия». Но просуществовала Палата недолго и в 1789 году перед предполагаемой перестройкой оружейного завода вся коллекция по распоряжению императрицы была перевезена в Московскую оружейную палату.

На протяжении следующих почти ста лет мастера оружейного завода вновь собирали образцы оружия. В 1870-х годах начальник завода В. В. Нотбек решил возродить музей. На основе возвращённой по его просьбе в Тулу коллекции оружия, переданного когда-то в Оружейную Палату в Москву, и на основе коллекции тульского завода и был создан музей. Его открытие состоялось 30 августа 1873 года в одной из комнат правления завода.

В 1959 году музей был перемещён в центр Тулы, так как количество экспонатов было очень велико и не могло размещаться на заводе. В последующие годы музей продолжал пополняться. Возникла необходимость в новом здании. В конце 1970-х годов здание бывшего Богоявленского собора на территории Тульского кремля было передано оружейному заводу. По решению музейщиков все экспонаты музея оружия было решено разместить в нём.

В 2012 году открылось новое здание Тульского музея оружия на набережной им. д-ра Дрейера реки Упы в Заречье. Оно имеет характерную форму старинного шлема-шишака. 23 февраля 2015 года в новом здании музея открылась новая постоянная экспозиция «История стрелкового и холодного оружия с XIV века до современности», в которой широко используются мультимедийные комплексы (видеостены, интерактивные игровые и познавательные комплексы «Рассказчик», «Жизнь за окном», «Представь себя», «Энциклопедия оружия», голографические витрины, электронные этикетки и т. д.). В периферийной части залов размещены инсталляции, которые в сочетании с проекционными экранами обеспечивают эффект присутствия, например, в мастерской оружейного завода XIX в. или в окопе Первой мировой войны. В экспозиции также представлены детские интерактивные зоны. Погрузиться в атмосферу военного времени в разные периоды истории помогут проекционные мини-кинотеатры.