Первое упоминание об архивных документах, сформированных на Алтае, относится к 14 ноября 1747 года, когда генерал-майор Андрей Венедиктович Беэр, первый начальник Колывано-Воскресенских заводов и руководитель Канцелярии, дал указание о «надлежащем» хранении документов и приказал составить их первую опись.

13 декабря 1765 года на основании письма секретаря Канцелярии Колывано-Воскресенского начальства Василия Пастухова был рассмотрен вопрос и принято постановление Канцелярии о размещении архива в доме покойного к тому времени генерал-майора Беэра. В постановлении значилось: «При слушании сего признано – до строения настоящего архива имеющиеся в Канцелярии письменныя дела, собранныя в столпах прошлых лет, содержать в доме том, где покойной г-дин генерал майор Беэр жил, к чему подлежащей покой выбрать и в оной, шкафы ис Канцелярии перенеся, поставить и, дела в оные положа, запечатать, и тот покой за замком держать». Эта дата и считается датой создания государственного архива Алтайского края. Но самыми ранними документами являются копийные материалы комиссии А.В. Беэра, принимавшей от Демидовых владения по указу императрицы Елизаветы от 1 мая 1747 года, и датируются они 1744 годом.

В XIX–XX веках архивы формировались при каждом ведомственном и государственном учреждении. На Алтае наиболее крупные архивы существовали при управлении Алтайского округа (Горный архив), управлении землеустройства, Барнаульском городском суде, Барнаульской городской Думе и др. Архивные фонды этих учреждений, сформировавшиеся до 1917 года, составили основную и наиболее ценную часть документов Архивного фонда края.В советское время организация архивов как государственных учреждений началась на Алтае после завершения гражданской войны. 16 апреля 1920 года был создан первый орган управления архивным делом в крае – Алтайское губернское управление архивным делом. В связи с изменением административно-территориального деления происходила реорганизация органа управления и изменение названия: Алтайское губернское архивное бюро (1923), Барнаульское окружное архивное бюро (1925), Барнаульское окружное отделение Западно-Сибирского краевого архивного бюро (1931), Барнаульское отделение Западно-Сибирского краевого архивного управления (1932), Алтайское краевое архивное управление (1937). В 1937 году при управлении были созданы Алтайский краевой исторический архив и Алтайский краевой архив Октябрьской революции, которые в 1941 году были объединены в государственный архив Алтайского края.

Параллельно шла организация партийного архива Алтайского крайкома ВКП(б), который был создан 30 июня 1940 года. В соответствии с Указом Президента РФ от 24 августа 1991 года «О партийных архивах» фонды партийного архива вошли в состав фондов государственного архива Алтайского края, а также переданы помещение и штат сотрудников.

В 1992 году были образованы новые краевые архивы: межведомственный архив документов по личному составу и центр хранения специальной документации. В 1996 году уполномоченным органом управления в области архивного дела в крае являлся комитет по делам архивов администрации края. В целях совершенствования архивного дела и создания единого центра ретроспективной информации краевые архивы и комитет администрации края по делам архивов постановлением администрации Алтайского края от 05.02.1996 г. № 59 были объединены в единое управление. Государственный архив Алтайского края этим же постановлением преобразован в центр хранения Архивного фонда Алтайского края и введен в состав управления архивного дела администрации Алтайского края как структурное подразделение.

В 2009 году в связи с реорганизацией органов исполнительной власти Алтайского края в сфере культуры и архивного дела управление архивного дела на основании постановления Администрации Алтайского края от 26.10.2009 № 443 было присоединено к управлению Алтайского края по культуре, а постановлением от 26.10.2009 № 444 создано краевое государственное учреждение «Государственный архив Алтайского края». На основании постановления Администрации Алтайского края от 30.11.2010 № 532 «Об утверждении перечня краевых казенных учреждений, создаваемых путем изменения типа действующих бюджетных учреждений» краевое государственное учреждение «Государственный архив Алтайского края» преобразовано в краевое государственное казенное учреждение «Государственный архив Алтайского края» (КГКУ ГААК). Устав учреждения утвержден приказом управления Алтайского края по культуре и архивному делу от 27.10.2011 № 390, согласован распоряжением Главного управления имущественных отношений Алтайского края от 07.11.2011 № 2782. Свидетельство Межрайонной инспекции Федеральной налоговой службы № 15 по Алтайскому краю о внесении записи о КГКУ ГААК в единый государственный реестр юридических лиц выдано 16.11.2011.

Все архивные фонды, хранившиеся в структурных подразделениях управления архивного дела – центре хранения Архивного фонда Алтайского края и отделе специальной документации – перешли на хранение в КГКУ ГААК.