Obszar powiatu oleckiego przed wiekami zamieszkiwały plemiona ludów bałtyckich.
Pozostałością po mieszkańcach tej ziemi – Jaćwingach są tylko nazwy geograficzne. W XV-XVI w. intensywnie rozwijało się osadnictwo krzyżackie. W Puszczy Galindzkiej na wąskim cyplu między jeziorem Oleckie Wielkie i rzeką Legą zbudowano drewniany zameczek myśliwski.
W 1560 r. Albrecht Hohenzollern i król Polski Zygmunt August zakładają miasto Margrabowa.
Siedziba powiatu zostaje przeniesiona ze Stradun do Margrabowej. Po wytyczeniu dużego rynku, o powierzchni ponad 6,15 ha, wybudowano kościół ewangelicki i ratusz. Okoliczna ludność pochodziła w większości z Mazowsza. Powiat nazywano oleckim a miasto Margrabowa lub Oletzko. Powolny rozwój miasta spowodowany był znacznym oddaleniem od ważniejszych szlaków handlowych i zniszczeń wojennych nękających Olecko w XVII w. i XVIII w. – wojny szwedzkie (w 1656 r. Polacy odnieśli zwycięstwo nad kwaterującymi tu Szwedami), w latach 1656-1657 najazd tatarski, w 1757 r. wkroczenie wojsk rosyjskich.
Pod koniec XVIII w. nastąpił znaczny rozwój miasta (w granicach państwa pruskiego). W II połowie XIX w. i na początku XX w. powstawał drobny przemysł. Krótki okres rozwoju przerwały zniszczenia I wojny światowej (1914-1915).
W wyniku plebiscytu w 1920 r. miasto pozostało w granicach Niemiec, a od 1928 r. do 1945 r. nosiło nazwę Treuburg (Wierny Gród).
1810 Schrötter. Karte von Ost - Preussen nebst Preussisch Litthauen und West - Preussen nebst dem Netzdistrict - Kreises Oletzko
Ponowny okres dynamicznego rozwoju nastąpił w dwudziestoleciu międzywojennym. Miasto rozwijało się jako ważny ośrodek turystyczny, sportowy i rekreacyjny. W czasie II wojny światowej miasto uległo znacznemu zniszczeniu (około 60 %). Całkowitej likwidacji uległ przemysł i sieć kolejek wąskotorowych.
Od 1945 r. powiat znalazł się w granicach Polski.
W latach 1946-1975 powiat administracyjnie należał do województwa białostockiego, zaś w latach 1975-1998 do województwa suwalskiego.
W wyniku reformy administracyjnej od 1 stycznia 1999 r. do 31 grudnia 2001 r. powołany zostaje powiat olecko-gołdapski z siedzibą w Olecku.
Od 1 stycznia 2002 r. Olecko jest ponownie miastem powiatowym.
Olecko posiada zabytkowy układ urbanistyczny – rynek w kształcie kwadratu z prostopadle odchodzącymi ulicami, uważany za największy w Europie. W parku miejskim zachował się monumentalny pomnik żołnierski z I wojny światowej.
Kilka ciekawostek
- W 1659 r. urodził się w Olecku Jan Moneta – lektor języka polskiego w gimnazjum akademickim w Gdańsku.
- W Wojnasach koło Olecka przyszedł na świat w 1790 r. Krystyn Lach Szyrma – pisarz i uczony, profesor filozofii na Uniwersytecie Warszawskim.
- W Olecku żył i pracował w latach 1820-1837 pastor A. F. Czygan – założyciel i redaktor pisma „Nowiny o Rozszerzeniu Wiary Chrześcijańskiej”. Przewodniczył on w 1836 r. synodowi pastorów mazurskich w Olecku, na którym to podjęto uchwałę przeciwko usuwaniu języka polskiego ze szkół na Mazurach.
- W Olecku w 1856 r. urodził się Jan Karol Sembrzycki – redaktor pism dla ludności polskiej „Mazur Wschodnio-Pruski", wydawca kalendarzy i czynny działacz oświatowy.