Иван Иванович Козлов родился в 1779 году в Москве в дворянской семье. Получил прекрасное домашнее образование. Зачислен на военную службу в пятилетнем возрасте, имел звание сержанта Измайловского полка, в 16 лет был переведён в звание прапорщика. Затем была военная служба в лейб-гвардии, которая длилась три года. После этого Иван вышел в отставку и в 1798 году поступил на гражданскую службу. Служил губернским секретарём, затем был переведён в коллежские асессоры в канцелярию генерал-прокурора Петра Лопухина, с 1799 года служил в герольдии, с 1807 года находился в канцелярии московского главнокомандующего Тутолмина, где получил чин надворного советника.
В 1809 г. Иван Иванович Козлов женился на Софье Андреевне Давыдовой. У них родились сын Иван и дочь Александра. В 1812 году с 20 июня по 30 августа служил в комитете для образования московской военной силы. За три дня до вступления Наполеона в Москву был уволен со службы вместе с другими чиновниками и уехал с семьёй в Рыбинск к родственникам матери. После изгнании французов из России Иван Иванович не вернулся с семьёй в разорённую Москву, а переехал в Санкт-Петербург, где получил место помощника столоначальника в Департаменте государственных имуществ. В 1814 году получил повышение по службе — чин коллежского советника вёл светскую жизнь.
Но однажды в судьбе Ивана Ивановича произошли резкие перемены — случился паралич ног, в 1819 году он начал терять зрение, а к 1821-му окончательно ослеп. Тогда Иван Иванович занялся поэтическим творчеством. К этому времени наследство, полученное от родителей, было истрачено и литературный заработок становился единственным средством существования. Прекрасно владея иностранными языками, он берётся за переводы с итальянского, французского, немецкого и английского языков.
Перевод стихотворения Томаса Мура «Вечерний звон» (1828) стал народной песней. На его поэтические строки писали романсы М. И. Глинка и А. А. Алябьев. На музыку были положены «Романс» (1823), «Венецианская ночь» (1825), «Португальская песня» (1828).
Творчество Ивана Козлова включает в себя лирические стихи и поэмы. Наиболее известны романтическая поэма «Чернец» (1825), написанная в форме лирической исповеди молодого монаха, и историческая поэма «Княгиня Наталья Борисовна Долгорукая» (1827). Стихи Козлова печатали во многих журналах и альманахах, звучащие в них православное смирение и задушевность полюбились читателям. Его творчество высоко ценили А. С. Пушкин, В. А. Жуковский, В. К. Кюхельбекер.
Несмотря на тяжёлую болезнь и неподвижность И. И. Козлов держался с редким мужеством. Сидя в инвалидной коляске, он всегда был тщательно и изысканно одет, его речь была яркой и захватывающей, он помнил и читал наизусть европейскую поэзию. Никто не догадывался о том, что по ночам его терзали жестокие боли.
Иван Иванович Козлов умер 11 февраля 1840 года, похоронен на Тихвинском кладбище в Александро-Невской лавре в Санкт-Петербурге.
