Началото е поставено преди Освобождението. Него трябва да търсим още в 1845 година под наименованието ГЛАВНО ЧЕТВЪРТО КЛАСНО УЧИЛИЩЕ ПО РУСКИ ОБРАЗЕЦ, построено в двора на архиерейството. Обучението се водило по взаимноучителния метод.

Първите учители са били Никифор поп Константинов и Юрдан Ненов - руски възпитаници. Тяхното идване в града засилва културния подем в Пазарджик. Славата на пазарджишкото класно училище се разнася из цяла Блгария. Възрожденците Васил Априлов и Никола Палаузов го поздравяват с насърчително писмо и му подаряват печат.

Пълен разцвет главното класно училище добива през 1874/1876 година, когато в него учителствуват Константин Величков, Иван Войводов, Яков Матакиев. Те превръщат учлището в модерно образцово мъжко училище. В навечерието на Априлското въстание през 1876 година в него идва Георги Бенковски, който открива делото на учителите членове и основоположници на революционния комитет в Пазарджик. След Освобождението нарасналите нужди на града наложили построяването на окръжно І\/-то класно мъжко училище, а по-кьсно и на V-то класно.

През 1908/1909 година петокласното училище преминава в шестокласно, а през 1910-1911 година се трансформира в пълна мъжка гимназия. През Първата световна война в Мъжката гимназия Ив. С. Аксаков работят едни от най-способните педагози, начело с директора Димитър Берберов. Към силния педагогически кадър се числят историкът Иван Стоянов - автор на учебник по история, литераторите - Тошев и Паскалев, учителят по философия Левичаров, химикът Василев, учителят по естествена история Тодор Пенев, художникът Георги Машев.

По това време учителства и географът Батаклиев, станал впоследствие професор и директор на катедрата по география в Софийския държавен университет. Неговият капитален труд Татар Пазарджик - историко-георграфски преглед от 1923 година е пълната история и география на нашия край. През 1945 година се наложило мъжката гимназия да се раздели на две - Първа и Втора мъжка гимназия. Директор на 1-ва гимназия става Борис Василев, а на І І-ра Никола Ангелов.

През 1950 година 1-ва мъжка гимназия се пренася в сградата на Островското училище с директор Минко Николов. С всяка измината година гимназията расте. През 1954 година тя има вече двадесет и шест паралелки, които учат в двете сгради на двора. През 1954 година става смесена. За добра учебно-възпитателна работа през 1957 година гимназията е наградена с орден Кирил и Методий 1-ва степен. По същото време гимназията заема окръжното първенство по националния преглед за най-добра хигиена, опазване и обогатяване на училищното имущество.

През 1958/59 година гимназията отново се връща в собствената си сграда и продължава като Първа смесена гимназия до 1960 година, когато се преименува в Първа политехническа гимназия. През 1962 година гимназията изпраща на първия конкурс на учителите преподавателите Мария Богданова и Александър Алексиев. За конкурса и празника на славянската писменост и култура 24 май Президиума на Народното събрание награждава с медал за трудово отличие преподавателите Мария Богданова, Бонка Нешева, Александър Алексиев, Ангел Кермедчиев и със знака Отличник Благо Велчев.

През учебната 1961/62 година се въвежда осмокласно образование и се провежда изпит за завършено осмокласно образование, наред с този за завършено средно образование. На 18 март 1977 година с указ Държавния съвет на Народна република България награждава гимназията с орден Червено знаме на труда. През учебната 1983/84 година се прави опит за сливане на две форми в образованието - общообразователна и политехническа.

Училището се преименува в Единно средно политехническо училище. През 1990/91 година с решение на МНП училището става средно общообразователно училище с профилиране на хуманитарните науки - литература, история, философия, западни езици. От учебната 1992/93 /ДВ бр. 31 от 1992 година/училището се преименува в гимназия, Иван Сергвевич Аксаков.