В середине XVII века на северо-востоке современной Украины в местности необыкновенно живописной, со следами многочисленных древних славянских поселений, но тогда совершенно безлюдной, возник город-крепость. Руководил ее сооружением воевода К.Арсеньев, который пришел сюда с русскими служивыми людьми. Вместе с ними крепость строили украинские переселенцы из-за Днепра, ставшие жителями городских посадов. К ним вскоре примкнули казаки, которые спасались от гнета Речи Посполитой. «Сумин город» построили в дубовом лесу, из дубовых колод соорудили крепостные стены, под крепостью выкопали подземный ход к реке, насыпали вокруг крепости вал и выкопали глубокий ров. Оборонные сооружения дополнились природными преградами: реки Псел, Сума и Сумка с трех сторон опоясывали город. В итоге Сумская крепость стала одной из самых больших и укрепленных крепостей Слобожанщины. За мощными дубовыми стенами крепости строились дома для жителей и были заложено сразу несколько каменных храмов. Самым старым считается Свято-Воскресенский кафедральный собор. Храм мог выполнять функции оборонительного сооружения, о чем говорят его узкие окна-бойницы.
Среди строителей города родилась легенда об охотничьих сумках, давших имя городу. Три сумы, полных золота, были найдены в дубовом лесу, словно Знак Благословения для основания города. Так или иначе, но на знамени Сумского казацкого полка была эмблема в виде трех сум, ставшая в 1781 году официальным гербом города. Существует мнение, что герб Сум был утвержден лично императрицей Екатериной II одновременно с флагом города, что считалось большой честью. Гимна у города вначале не было, зато был полковой марш Сумского гусарского полка, служивший гимном. Говорят, что на его мелодию были положены в советское время слова и получилась очень популярная детская песенка: «По улицам ходила большая крокодила! Она, она зеленою была…». А еще существует легенда, что название города все-таки произошло не от названия рек и не из-за найденных сумок, а от украинского слова «сумувати». Только казаки во времена Екатерины II тосковали не о прежних местах проживания, а о красотках, которых им здесь так не хватало. Они написали письмо царице с просьбой помочь им не умереть от тоски. И тогда Екатерина II направила к ним самых красивых придворных дам. У них появились дети необыкновенной красоты, особенно девочки. С тех пор сумчанки считаются самыми красивыми славянскими женщинами.
Город много раз горел, помнит Северную войну Российской империи со Швецией, военный парад победоносных войск Петра I, расправу над сторонниками Мазепы, упразднение (уничтожение) казачества, еще пожары, еще войны…
В начале XIX века в Сумах появляются люди, значительно повлиявшие на судьбу города и изменившие его облик. Это семья Харитоненко. Ее основатель, Герасим Емельянович собственным трудом вышел в купцы третьей гильдии и вел дела очень успешно. Он постарался дать образование своим детям, и самым преуспевающим из них стал Иван Герасимович. Иван Герасимович, как говорят теперь, «работал по сахару». Сначала — только торговля, а потом и постройка многочисленных сахарных заводов на Сумщине. Павловский сахарный завод к концу XIX века стал самый крупным заводом в империи. Благодаря Ивану Герасимовичу Харитоненко Сумы стали железнодорожной станцией. Он успел в Сумах многое преобразовать, организовать и построить. Его сын – Павел Иванович успешно продолжил дело отца, занимался меценатством и благотворительностью. После революции 1917 года оставшиеся в живых члены семьи Харитоненко эмигрировали за границу. В советское время (70-е годы) дальние потомки Ивана и Павла Харитоненко посетили Сумщину. Работники одного из бывших заводов Харитоненко подарили им мешочек сахара местного производства. Гости, расчувствовавшись, назвали это самым дорогим сувениром.
