フォルダーの名前には \ / : * ? ” < > |などは使用することができません。
本記事では正規表現を用いて \ / : * ? ” < > | の文字が指定した文字列の中に含まれているか否かチェックするサンプルを紹介します。

サンプル
下記がサンプルコードとなります。textbox1というテキストボックスに入力されている文字列の中に\ / : * ? ” < > |のどれかが含まれた場合にメッセージボックスを表示する動きをします。
if (Regex.IsMatch(textBox1.Text, @"[\\/:*?""<>|]"))
{
MessageBox.Show("見つかりました");
}
正規表現の書きかたや今回用いたIsMatchメソッドの詳しい使い方は下記のページに書かれていますので参考にしてみてください。

正規表現言語 - クイック リファレンス - .NET
このクイック リファレンスでは、正規表現パターンを使用して入力テキストを照合する方法について説明します。 パターンには、1 個以上の文字リテラル、演算子、またはコンストラクトが含まれます。

Regex.IsMatch メソッド (System.Text.RegularExpressions)
正規表現が入力文字列内の一致を検出するかどうかを示します。