Сейчас проверил на 16-битном изображении в лабе, тот же самый процесс (9 по 10 вправо, 1 на 90 влево) также дает потерю качества, но гораздо менее катастрофичную, чем та же самая процедура при обычным РГБшном 8-битном изображении. Потеря легкая и при желании вполне может быть несколько скомпенсирована хайпасом. Если подумать, то это вполне логично - потери на смешивание при антиальясинге в 16 битах несравнимо меньше, чем в 8.
Отсюда вывод - если есть необходимость поворота изображения, то делать это лучше в шестнадцатибитном лабе.