Вскоре Короленко принужден был оставить Технологический институт. «В Петербург я приехал с семнадцатью рублями, — вспоминал писатель, — и два года прошло в трудовой борьбе с нуждой». Вместо учебных занятий Короленко должен был взяться за труд «интеллигентного пролетария». Он раскрашивал ботанические атласы, выполнял чертежные работы, занимался корректурой. За все это он получал копейки, которых едва хватало, чтобы не умереть с голоду.
В 1874 году Короленко переезжает в Москву и поступает в Петровскую земледельческую и лесную академию. Здесь Короленко слушает лекции великого русского ученого К. А. Тимирязева и по его поручению рисует для его лекций демонстрационные таблицы. Дружеские отношения, начавшиеся еще между профессором и студентом, не прекращались до конца их жизни. Безгранично веривший в силу науки, убежденный материалист, Тимирязев вошел в сознание Короленко как идеальный тип русского ученого. Позднее писатель не раз вспоминал о своем великом учителе. В день своего шестидесятилетия Короленко писал Тимирязеву в ответ на его поздравительную телеграмму: «Много лет прошло с академии. Время делает менее заметной разницу возрастов. Но для меня Вы и теперь учитель в лучшем смысле слова».
В академии Короленко сближается с революционно настроенной молодежью, читает нелегальную литературу. Ему поручается заведование тайной студенческой библиотекой, распространяющей книги главным образом революционного содержания. По характеристике директора академии — человека реакционных убеждений, — Короленко принадлежал «к числу тех людей, которые до упрямства упорно держатся засевших в них воззрений, и если эти воззрения получают… ошибочное направление, то человек этот легко может увлечь за собой других, менее самостоятельных молодых людей».
В марте 1876 года Короленко за участие в составлении коллективного протеста студентов против администрации академии, выполнявшей чисто полицейские функции, был исключен из академии, арестован и выслан из Москвы. «Во время студенческих беспорядков, — пишет Короленко в своей автобиографии, — как депутат, избранный товарищами для подачи коллективного заявления, был выслан сначала в Вологодскую губернию, откуда возвращен в Кронштадт… под надзор полиции. По прошествии года переселился в Петербург, где вместе с братьями зарабатывал средства к жизни разными профессиями: уроками, рисованием и главным образом корректурой». Корректором он работал в мелкой, захудалой петербургской газете «Новости», рассчитанной на удовлетворение обывательских вкусов. Разумеется, работа в этой газете ни в какой степени не могла удовлетворить Короленко. Он помышляет о литературном творчестве и пишет свой первый рассказ — «Эпизоды из жизни искателя» (1879). Характер этого рассказа определен эпиграфом, взятым из поэмы Некрасова «Кому на Руси жить хорошо»:
Средь мира дольного
Для сердца вольного
Есть два пути.
Взвесь силу гордую,
Взвесь волю твердую —
Каким идти.
Герой рассказа выбирает для себя трудный путь служения народу и отказывается от личного счастья. Это соответствовало настроению самого Короленко. В то время ему казалось, что движение народников способно победить самодержавие и что для этого необходимы только усилия передового общества. Как об этом можно судить по воспоминаниям современников, близко стоявших к общественному движению 70-хгодов, на квартире Короленко скрывались участники революционного подполья, хранилась недозволенная к распространению литература. Короленко готовился к деятельности пропагандиста и для того, чтобы иметь возможность легче войти в народную жизнь, изучал сапожное ремесло.
В марте 1879 года, после таких знаменательных событий конца 70-х годов, как похороны Некрасова, принявшие характер антиправительственной демонстрации, и убийство шефа жандармов Мезенцева, Короленко, по подозрению в печатании и распространении революционных воззваний, был снова арестован и заключен в Литовский замок. Летом 1879 года он был выслан в Глазов — глухой городок Вятской губернии. В ссылку Короленко ехал с сознанием необходимости сближения с народом, отвлеченные представления о котором должны были быть проверены — как это ему казалось — действительностью, треэвой и истинной. Полный энергии и молодой силы, он даже ссылку готов был рассматривать под углом зрения практического изучения жизни народа. С одного из этапов на пути в Глазов он писал своему другу по Петровской академии В. Н. Григорьеву: «Вы помните, что я мечтал о летнем путешествии, — ну вот хоть на привязи, а путешествую».
В эту пору у Короленко окончательно созрело желание всерьез приняться за литературную работу. В 1880 году появился в печати рассказ «Ненастоящий город», где, сильно подражая, по признанию самого Короленко, Успенскому, он изображал Глазов.
В ссылке Короленко был поставлен в тяжелейшие условия полицейских преследований и прямых утеснений. Исправник проверял его переписку, устраивал обыски, подслушивал разговоры. Для работы в таких условиях нужны были исключительное упорство, вера в свои силы, умение преодолевать трудности. Было ли все это у молодого Короленко? Вот как он сам отвечает на этот вопрос в письме из Глазова к сестрам: «…живем ли мы изо дня в день, как придется, или есть у нас желание и сила поработать, над собой хотя бы, есть цели впереди? — Есть. Можно ли работать над собой, стремиться и „достигать“ в этом направлении в нынешней обстановке, в богоспасаемом граде Глазове?.. — Можно, можно везде, где есть люди». Эта уверенность в своих силах не покидает Короленко и в следующие периоды его скитаний по ссылкам.