Коллекция документальных материалов отдела рукописей начала складываться вскоре после смерти П.М.Третьякова. В 1900 году по инициативе И.С.Остроухова и А.П.Боткиной решено было собрать материалы для биографии П.М.Третьякова: письма самого основателя галереи (хранящиеся в семье) и письма художников к нему. Эти материалы, а также делопроизводственная документация музея, легли в основу «Архивного отдела», созданного в галерее в 1922 году. Современное название отдел получил в 1939 году.
Ныне хранение насчитывает более 200 000 единиц хранения. Основу коллекции составляют личные фонды художников, коллекционеров и искусствоведов, среди которых фонды И.К.Айвазовского, Л.С.Бакста, А.П.Боткиной, А.М. и В.М.Васнецовых, М.А.Врубеля, Н.С.Гончаровой и М.Ф.Ларионова, И.Э.Грабаря, И.В.Клюна, П.П.Кончаловского, И.Н.Крамского, И.И.Левитана, П.И.Нерадовского, М.В.Нестерова, И.С.Остроухова, В.Г.Перова, В.Д. и Е.Д.Поленовых, Л.С.Поповой, И.Е.Репина, Н.К.Рериха, В.А.Серова, В.И.Сурикова, В.Е.Татлина, П.М.Третьякова, И.Е.Цветкова, П.П.Чистякова К.Ф.Юона и других. Здесь же хранятся материалы творческих и общественных организаций, коллекции и собрания документов, в том числе богатейшая коллекция фотографий. В отделе собраны материалы по истории и делопроизводству Третьяковской галереи. Основными направлениями деятельности отдела рукописей являются хранение, научно-исследовательская и экспозиционная деятельность, а также предоставление архивных материалов для изучения отечественными и зарубежными исследователями (в читальном зале).