Своим рождением Железногорск обязан началу освоения богатств Курской магнитной аномалии. Магнитные аномалии в районе Курска были обнаружены давно. Более двух веков прошло от первых письменных свидетельств о наличии железной руды в Курской губернии до промышленного использования богатств КМА. В XVIII веке белгородский купец Иван Гинкин со своими «компанейщиками» обнаружил рудные месторождения и добыл первые образцы.
Дальнейшая судьба железорудных месторождений Центральной России была связана с необычным поведением магнитной стрелки под Курском. Впервые на это явление обратил внимание известный ученый – астроном, академик Петербургской Академии наук Петр Борисович Иноходцев. Во время своих работ по определению географического положения ряда мест центральных и южных губерний России он обнаружил в районе Белгорода сильную аномалию поля земного магнетизма.
В 1918 году была создана комиссия по исследованию КМА. Уже через 10 дней удалось выявить и изучить крупную магнитную аномалию вблизи деревни Лозовка. Летом 1920 года создана Особая комиссия по изучению КМА. На пост председателя выдвинут Иван Михайлович Губкин.
Первая буровая скважина заложена в окрестности села Лозовки, неподалеку от Щигров. 7 апреля 1923 года из скважины буровой инструмент вынес на поверхность первые керны железной руды – выдающаяся победа покорителей КМА. С 1950 по 1956 годы геологоразведочные работы проводила Льговская экспедиция. Михайловское месторождение было открыто в 1950 году.
3 августа 1957 года принято Постановление Совета Министров СССР о начале строительства Михайловского рудника по добыче богатых руд.
Для обслуживания строящегося карьера было принято решение о строительстве рабочего поселка на 10 тысяч жителей. 6 августа 1957 года общее собрание колхоза им. Крупской Разветьевского сельсовета выделило для строительства жилого поселка и промышленных объектов земельную площадь в размере 259 га. Проектирование жилого поселка на площади 39,7 га осуществлялось Белгородским институтом «Южгипроруда».
Историческим днем рождения Железногорска считается 2 октября 1957 года – день, когда на поле вышли 60 рабочих, и началась разбивка первых улиц. И только через несколько лет стало понятно, что населенный пункт растет большими темпами и превращается в город.
Разумеется, поселок не мог оставаться безымянным. Так как заложили поселок в октябре, то и названия предлагали связанные с Октябрьской революцией: Ленинск, Ильичевск, Советск, больше склоняясь к названию Октябрьский. Были и другие варианты связанные с залежами богатой руды: Магнитный, Рудный, Рудногорск, Магнитогорск, Курский, Железорудный. Вариантов было множество, и споры долго не утихали.
До середины 1958 года поселок так и оставался без официального названия. Лишь решением исполкома курского областного совета депутатов трудящихся за № 290 от 24 июня 1958 года рабочему поселку Михайловского железорудного карьера было присвоено название Железногорск. 28 мая 1962 года указом Президиума Верховного Совета РСФСР поселку присвоен статус города районного подчинения с сохранением прежнего названия.