Hermann Schey étudie à la "Hochschule für Musik" de Berlin auprès d'Henry von Dulong, de 1913 à 1915. Il est mobilisé en 1915 et ne peut continuer ses études qu'après la guerre. Dès 1922 il donne des concerts à Berlin et est particulièrement apprécié dans les oeuvres de Bach. Suivent des tournées en Europe. En 1929 il interprète les Kindertotenlieder de Mahler à Amsterdam avec le Concertgebouw sous la direction de Willem Mengelberg. Il est tellement apprécié en Hollande qu'il y retourne chaque année. En 1930 il est en tournée en Pologne et en Russie, en 1932 à paris, en 1933 à Zürich. Étant d'origine juive, il doit quitter l'Allemagne en 1934 et s'établit en Hollande. En 1936 il est nommé professeur au Conservatoire d'Amsterdam, poste qu'il doit abandonner en 1940 lors de l'occupation allemande. C'est seulement à la fin de la guerre qu'il peut à nouveau donner des concerts, en Hollande, en Allemagne, en Angleterre, en Autriche, en Suisse. 1968 est marqué par une tournée en Israel. À la fin de sa carrière, il se retire en Suisse.