とても良い質問です!
これはネイティブでも説明できないことが多い部分ですが、文法的にはしっかり理由があります。
→ 「that which」はセットで「〜するもの」という意味の定型表現です。
「that」は先行詞で、「which」が関係代名詞の役割を果たしています。
なので "that which reduces uncertainty" は「不確実性を減少させるもの」という意味になります。
まず「that」はこの場合、単独で「もの」「こと」という意味です。
日本語で言えば「〜なもの」「〜ということ」の「もの」にあたります。
「which reduces uncertainty」で「不確実性を減らす」という説明を加えています。
`Information is [ that [ which reduces uncertainty ] ]`
→ 「不確実性を減少させる『もの』」
この「that which」は、少し文語的・古風な響きがあります。
と言ったりもします。 ただし、学術的な文脈や文章では「that which」の方がカチッとしていてフォーマルな響きになります。
「that which」はセットで「〜するもの」という意味の定型表現
- 「that」=「もの」
- 「which」=「〜する」
→ 「that which reduces uncertainty」=「不確実性を減少させるもの」