Антиалиасинг в кольцах в принципе не работает, потому что там нет геометрии. Камни в кольцах - это рейтрейсинг. Тут поможет только FXAA, который фейковый антиалиасинг в пост-обработке.
Обычный же MSAA должен работать. У меня на старинной RX580X работает.
Настройки драйверов конечно игнорируются, в ...