Школа открылась в 1906 году, как железнодорожная школа II ступени при станции Осиповичи Либаво-Роменской железной дороги. Существовала она на средства, которые выделялись железной дорогой. Помещалась школа в одноэтажном деревянном здании, в котором находилось 5 классов, в том числе 3 подготовительных.
Следует отметить, что уже с 1910 года учащиеся приучались к труду и зарабатывали сами деньги. В школьных мастерских ребята выполняли заказы для пекарни, изготовляя лотки и делая школьную мебель, а для паровозного депо – рукоятки к молоткам, стамески и слесарный инструмент, принимали участие в ремонте подвижных составов. О хорошей трудовой подготовке говорит такой факт: выпускник 1914 года Подгурский Семен Николаевич после окончания Гомельского техучилища в 1915-1916 гг. спроектировал здание одноэтажной кирпичной школы, которая была построена силами учащихся и родителей в 1931 году.
В 1972 году было построено новое здание школы, которое является основным на сегодняшний день.
Руководство ГУО "Средняя школа №2 г. Осиповичи":
- Лихачёва В.Н. (2021 г. - настоящее время)
- Ленчевский А.Г. (2014. - 2021 гг.)
- Шебалина Л.А. (2007 - 2014 гг.)
- Овчинникова Н.М. (2003 - 2007 гг.)
- Самусевич Р.Н. (1981 - 2003 гг.)
- Тебенькова М.М. (1980 - 1981 гг.)
- Чупахин В.В. (1979 - 1980 гг.)
- Чирун И.А. (1961 - 1979 гг.)
- Дубинчик Ф.С. (1953 - 1961