ProgramDataフォルダやAppDataフォルダに入っているファイルには、どんな役割があるのですか？

基本的に、アプリケーションはインストール用のパッケージが残っていればいいのでバックアップする必要はありません。新規にインストールしなおすことで初期化されるデータも多いので、余計なことはしないほうがいいでしょう。

\ProgramDataは、アプリケーションが自分専用のデータベースや設定ファイルなどを格納しておくところです。

\Users<username>\AppDataは、ユーザーごとのデータベースや設定ファイル、作業用ファイルや一時ファイルが格納されるところです。

これらも、何らかのトラブルが起きた時には初期化してしまった方がいいデータが多いので、バックアップの優先度は低いです。

極論すると、明示的にユーザーが作成したファイルがDocumentsなどのディレクトリにあれば、それらを復旧できればどうにかなる場合が多いです。そういう考えから、OneDriveでは、DocumentsなどのディレクトリをOneDriveの共有ディレクトリ内に移動して、クラウド上に自動バックアップできるようにしているわけです。

確かに行儀が悪い例外はいくらでもあるので、アプリケーション次第ではあります。

ProgramDataやAppDataフォルダもレジストリや環境変数で場所が定義されているフォルダです。データの整合性の都合もありますので勝手に移動しないでください。レジストリや環境変数を変更した場合を含めて、移動した場合の動作保証はありません。