Стивен Энтони Баллмер родился в марте 1956 года. Его отец, Фред эмигрировал из Швейцарии и работал в Ford Motor Company. Мать Стива, Беатрис Дворкина была дочерью русских эмигрантов, которые работали в отрасли автомобилестроения.
Для повышения квалификации в компании Ford Фред Баллмер вместе со своей семьей поехал на три года в Бельгию, где Стивен научился свободно говорить на французском языке.
В школе Стив Баллмер показал себя человеком, которого нельзя игнорировать. Он был очень умным и обладал очень громким голосом. Стив добился больших успехов в математике. С большим энтузиазмом Стив занимался спортом: играл в футбольной команде школы, руководил баскетбольной командой и занимался легкой атлетикой.
Благодаря своим способностям он набрал 800 баллов по математике в тесте SAT и был принят в 1973 году в Массачусетский технологический институт, Калифорнийский технологический университет и Гарвардский университет. Баллмер выбрал Гарвард, в котором углубленно изучал математику.
В университете познакомился с Биллом Гейтсом.