Согласно легенде, старый город Рустави был основан вдовой прародителя грузин Картлоса и изначально назывался Бостан-Калаки Реальная дата основания города неизвестна, но уже в IV—V веках н. э. здесь имелась крепость, храм и оросительные каналы. Расцвет Рустави пришёлся на правление царицы Тамары. Около 1236 года город был полностью уничтожен монголами.
Новый город был основан в 1948 году неподалёку от месторасположения древнего Рустави в связи со строительством крупного металлургического комбината.