В январе 1558 г. московские войска перешли ливонскую границу, заняли Нарву, Нейгаузен, Дерпт. В начале 1559 г. взяли Мариенгаузен и Тирзен. Однако в мае Алексей Адашев, который считал, что главный враг – это Крым, заключил перемирие с Орденом и направил войска против крымского хана Девлет-Гирея. Великий магистр Ордена Готард Кетлер заключил договор с великим литовским князем и польским королём Сигизмундом II Августом, по которому Сигизмунд получил протекторат над Ливонией. В октябре 1559 г. рыцари разбили русских под Дерптом, но вернуть себе крепость не сумели.
Алексей Адашев впал в немилость, Иван заключил мир с Крымом. Это событие знаменовало начало падения Избранной Рады. В феврале 1560 г. – новое наступление русских. Андрей Курбский взял резиденцию великого магистра – замок Феллин.
В июне 1561 г. Швеция вступила в войну и захватила Ревель. В октябре 1561 г. Кетлер заключает Виленский договор с Сигизмундом II: владения Ордена к северу от Западной Двины переходят в состав Великого княжества Литовского, а к югу от Западной Двины, на землях Курляндии и Земгалии образуется вассальное от Сигизмунда герцогство, главой которого становится Кетлер. В феврале 1562 г. Рига объявляется вольным городом. Ливонский орден прекращает своё существование.
Иван, готовясь к наступлению, заключает договор с Данией, куда едет глава Посольского приказа Иван Висковатый, и двадцатилетнее перемирие со Швецией. В феврале 1563 г. русские войска под командованием самого царя осадили Полоцк. На осаду были направлены почти все наличные войска, числом около 50-60 тысяч человек. После бомбардировки и штурма город был взят. Р. Г. Скрынников пишет: «Овладение Полоцком было, пожалуй, моментом высшего успеха России в Ливонской войне, после которого наметился спад, ознаменовавшийся военными неудачами и бесплодными переговорами». Дальнейшие события подтверждают правоту этих слов.
Русско-литовские переговоры в Москве закончились неудачей: литовцы отказались уйти из Лифляндии. В 1564 г. русские не смогли пройти к Минску, потерпев поражения у Полоцка и под Оршей. Осенью литовцы безуспешно пытались отбить Полоцк. Той же осенью крымский хан нарушил мирный договор и напал на Рязань. Город спас случайно оказавшийся в окрестностях Алексей Басманов, уже отличившийся в Ливонии.
В апреле 1564 г. Андрей Курбский, член Избранной Рады, царский наместник в Ливонии бежит в Литву. Причиной тому послужила опала Алексея Адашева и других его соратников по Избранной Раде. Он вступает в переписку с Иваном IV, три его послания и два ответных послания Ивана составляют уникальный памятник древнерусской литературы.
В декабре произошло ещё более важное событие в истории России: Иван простился с боярами и уехал в Александровскую слободу, заявив, что оставляет государство. Н. И. Костомаров так объясняет этот поступок: «Он желал проливать кровь, но трусил и измыслил такое средство, которое бы в народных глазах придавало законность самым необузданным его неистовствам. Трусость привела Ивана к мысли устроить, так сказать, комедию, в которой народу выпало бы на долю просить царя мучить и казнить кого угодно царю». В феврале 1565 г., когда Ивана упросили вернуться, он разделил страну на две части: земщину и опричнину (от слова опричь – кроме). Начался кровавый опричный террор. Репрессиям подверглись многие знатные люди, например, талантливый полководец, покоритель Казани Александр Борисович Горбатый Шуйский.
В 1566 г. царь собрал Земский собор, который высказался за продолжение войны. В 1567 г. был заключён договор со шведским королём Эриком XIV о снятии блокады Нарвы шведскими войсками, но вскоре на шведский трон вступил Юхан III, который расторгнул договор.
В июне 1569 Литва и Польша подписали Люблинскую унию и объединились в одно государство: Речь Посполитую. Иван IV подписал трёхлетнее перемирие с Речью Посполитой и образовал в Прибалтике вассальное Ливонское королевство во главе с Магнусом Датским, братом датского короля Фредрика II.
Скоро Москве пришлось вести войну на два фронта: активизировались крымские татары и их союзники. В 1571 г. крымские татары и турки-османы начали поход с целью изгнать русских из Поволжья. Общая численность войска превышала 55 тысяч человек. Они подошли к Астрахани, но не решились штурмовать крепость и отступили обратно к Азову. В мае 1571 г. крымский хан Девлет-Гирей неожиданно напал на Москву. В его войске были крымцы, ногайцы и черкесы. Татары грабили окрестные города и сёла, а потом начали жечь предместья Москвы. Москва выгорела полностью за несколько часов, враги отступили, их некому было преследовать. Город опустел. О пожаре скоро стало известно всей Европе. Летом 1572 г. татары напали снова. На этот раз они были разбиты объединённым опрично-земским войском у села Молодь, под Серпуховом. Им руководил Михаил Воротынский, но особенно отличился воевода Дмитрий Хворостинин, который станет активным участником боевых действий в Ливонии. Набеги надолго прекратились.