Хосрову посвящено множество легенд и преданий. В них он предстает образцом мудрого и справедливого владыки. Один из текстов «Сиасет-наме» содержит легенду о том, как Хосров пригрозил отрубить руку собственному сыну за то, что тот хотел отнять верблюдов у молодого арабского купца. Тот араб был будущий халиф Умар, и он по возвращении рассказал об этом Пророку Мухаммаду, который воскликнул: «Неверный, а какая правосудность!»

В этом предании, очевидно, слава поборника справедливости шаха Хосрова I соединилась с именем Хосрова II, который более соответствует эпохе жизни Пророка и халифа Умара.

Начало литературному образу Хосрова как идеального правителя положил Фирдоуси в своей поэме «Шахнаме». В дальнейшем Хосров стал героем многих народных сказаний, повествований, музыкального фольклора. Многие восточные средневековые правители стремились вывести происхождение своих династий от великого Хосрова.