Nama bandar raya ini diambil daripada dua perkataan, iaitu ‘alor’ dan ‘setar’. ‘Setar’ merupakan pokok kundang hitam atau pokok kundang daun besar. Bahasa saintifik pokok ini dikenali sebagai bouea macrophylla Griff. Nama bandar raya ini dikatakan tercetus kerana terdapat banyak pohon setar di sepanjang sungai. Bandar raya Alor Setar merupakan ibu negeri tertua di Malaysia. Bandar ini mula dibuka pada tahun 1735 oleh Sultan Muhammad Jiwa Sultan Zainal Adilin Mu’adzam Shah II (Sultan Kedah yang ke-19).

Pada awal pembukaan Alor Setar, bandar ini dikatakan hanyalah satu kawasan penempatan yang kecil yang diapit oleh dua batang sungai. Keindahan kawasan ini dengan pokok-pokok yang hijau merimbun, menarik perhatian Sultan Muhammad Jiwa Zainal Adilin Mu’adzam Shah II. Baginda kemudiannya berbincang dengan pembesar-pembesar baginda dan memutuskan untuk mendirikan kota batu di kawasan penempatan tersebut pada tahun 1726. Kota batu ini digelar Kota Setar. Baginda telah menitahkan pembukaan Kota Setar (kini dikenali Alor Setar) sebagai pusat pentadbiran negeri ke-8 pada 1735 selepas Kota Bukit Meriam, Kota Sungai Emas, Kota Siputeh, Kota Naga, Kota Sena, Kota Indera Kayangan dan Kota Bukit Pinang.

Ketibaan James F. Augustine ke Kuala Sungai Kedah (kini dikenali sebagai Kuala Kedah) pada tahun 1883, sering disebut sebagai pencetus yang memacu pembangunan Kota Setar. Augustine dan beberapa orang pentadbir Inggeris telah meneroka kawasan Kuala Sungai Kedah sehingga mereka akhirnya tiba ke Kampung Kota Setar. Beliau  dibawa melawat ke kota batu Sultan Muhammad Jiwa Zainal Adilin Mu’adzam Shah II. Beliau tertarik dengan keindahan persekitaran kota batu, yang dipenuhi dengan pokok setar.

Kedatangan Augustine ke Kampung Kota Setar telah merancakkan kegiatan perdagangan antara penduduk sekitar dengan pedagang-pedagang dari Eropah, China, India dan Sumatera. Pedagang mula tertumpu ke Kampung Kota Setar untuk berdagang. Kampung Kota Setar berubah wajah dari perkampungan kecil menjadi pekan perdagangan yang sibuk. Kampung Kota Setar menjadi hub pentadbiran, perdagangan dan penempatan. Semua urusan perdagangan dan pentadbiran dikendalikan di sini, sehingga nama Kota Setar diubah menjadi Alor Setar. Nama Alor Setar dipilih memandangkan lokasi Kota Setar yang berhampiran dengan muara sungai serta reputasinya yang terkenal dalam kalangan para pedagang yang kerap berkunjung ke sini. Nama Kota Setar kemudiannya digunakan untuk merujuk daerah di sekeliling Alor Setar.

Tanggal 28 November 2003 bersamaan 04 Syawwal 1424H, bandar Alor Setar telah diisytiharkan sebagai bandar raya Alor Setar ke-9 dengan gelaran Majlis Bandaraya Alor Setar selepas bandaraya-bandaraya  Kuala Lumpur, Ipoh, Kuching Utara, Kuching Selatan, Johor Bahru, Kota Kinabalu, Shah Alam dan Melaka Bersejarah.