Anlladıklarım:
$\mathbb{H}$ üniter, hermitsel matris olsun. O zaman $f(\mathbb{H})$ ifadesi şöyle tanımlanır:
$$\sum_i f(\lambda_i)\vec{V}_i\vec{V}_i^+$$
Burada $\lambda_i$, $\mathbb{H}$ matrisinin özdeğerleri; $\vec{V}_i$, $\lambda_i$ özdeğerine karşılık gelen özvektör; $\vec{V}_i^+$ ise $\vec{V}_i$ vektörünün hermityeni, yani transpozunun kompleks eşleniğidir.
Örnekte de verilen matrisin karekökünü hesaplamış. Bu hesapta yazılan $\mathbb{P}_i$ ise
$$\mathbb{P}_i=\vec{V}_i\vec{V}_i^+$$
matrisi demektir.
Böyle kötü yazılmış kitapları nereden buluyorsunuz merak ediyorum. Bu kitapları okuyup anlamıyorsanız problem yok; kimse kolay kolay anlamaz :)