Впервые город упоминается под названием Алленштейн в 1334 году, когда Тевтонским орденом здесь была основана сторожевая башня. В 1347 году здесь же начали возводить замок, строительство которого, в основном, было закончено в 1350 году, а уже в 1353 году Алленштейн получил права города. В 1370—1380 годах в городе был построен храм Святого Якуба, который после нескольких реконструкций и перестроек сохранился до наших дней. Сейчас это Ольштынский собор. В результате многочисленных войн 15 века город неоднократно разрушался и переходил к разным правителям, в 1466 году в ходе Тринадцатилетней войны отошел к Польше. После этого город неоднократно подвергался набегам шведов во времена северных войн, в результате эпидемии чумы начала 18 века население его практически полностью вымерло. После раздела Польши в 18 веке город становится собственностью прусского короля. Во времена наполеоновских войн город вновь подвергся значительным разрушениям, в феврале 1807 года здесь останавливался Наполеон Бонапарт. В 1871 году город входит в состав Германии и начинается экономическое оживление, строится железная дорога, многочисленные здания и предприятия. В ходе Первой мировой войны город на некоторое время занимала русская армия. Во время Второй мировой войны 22 января 1945 года освобождён Красной Армией и переименован в Ольштын.
Многочисленных туристов привлекает Ольштын окружающими лесными массивами, большим и красивым городской парком, через который проложены многочисленные пешеходные и велосипедные маршруты. На реке Лына и окружающих озёрах оборудованы многочисленные пристани для яхт, катеров и лодок, в городе проводятся соревнования по парусному спорту. Известен город и как горнолыжный курорт.