Составляем выражение. Тем более неизвестное уже обозначено.
3х + 5(х-17) = 8х - 85 - общее количество школьников
В одном вагоне х школьников, в трех - 3х.
В одном автобусе (х-17) школьников, в пяти - 5х-85.
Всего - 3х+5х-85 = 8х-85
Ответ. 8х-85 школьников.