В праславянском языке звук [ж'] был только мягким, но постепенно «отвердел», и в современном русском он преимущественно твёрдый. О бывшей мягкости Ж сейчас напоминают только несколько слов: вожжи, дрожжи, можжевельник, позже и др.
О том, что раньше звук Ж был мягким, свидетельствуют и памятники древнерусской письменности, в которых до начала XIV века встречались написания вижю, мужь.
Буква сохранилась в современном алфавите практически без изменений. Только со временем мы стали называть её просто по своему звучанию: «Ж».