Обычно на сверхнизких значениях функция реализуется шаблонами, где вставляются NOPы в необходимом количестве. На среднем очень вылизанные циклы на ассемблерных вставках. А дальше проще. Если в библиотеке не так слелано, скорее всего нужно самому делать правильную функцию

Больше верится, что проблема в функции, чем в датчике. Проверить конечно можно только осциллографом.
Понимаете... Если функция как-то завязана на загруженность железки... То все... Капец... Можно ждать в любой момент глюк.