過去に閲覧したウェブサイトの色が紫になる

閲覧履歴が残っているからですよ。

閲覧履歴の削除をすれば問題は解決します。
Ctrl + Shift + Delete を同時に押せば
小さなスクリーンが現れますので
チェックボックスをすべてチェックして削除を押してください。
もし、上記の方法で履歴を削除出来ない場合
は下記の方法で試してください。
閲覧履歴の削除方法↓
ツールを選択。
↓
インターネットオプションを選択。
↓
閲覧の履歴の削除の所の削除をクリック。
それと、削除ボタンのとなりの設定ボタンをクリックすれば一時ファイルの保存設定などが出来るのでご自分のお好みの設定をしてください。

ご参考までに。

ご使用の Webブラウザの　閲覧履歴や、一時ファイルを削除すれば、

その表示はなくなります。