после того как начал разбираться с токами больше 3х ампер, обнаружил что шунт из нихрома калится до красна.
купил керамический резюк на 20вт 0.1ом, замечательно, но показания амперметра уехали.
снял график показания на порту ардуины(A1) и реальный ток по мультиметру.
выяснилось, что он шииибко нелинеен, и коэффициентами править это 30 компараторов ставить.
полез делать аппроксимацию.
Excel выдаёт формулы, но режет коэффициенты и формула слишком сильно отличается от правды.
от Excel, ничего толкового не добился, помог LibreOffice Calc.
с графиком хорошо совпал полином 3го порядка, отклонения небольшие совсем.
0,0000132797916455788*x^3-0,0118254576*x^2+6,4463516962*x
c float бодаться я зарекся, с double в CODE блоке, лень.
решил уместиться в long integer, что и проверил в Calc.
коэффициенты умножил на 150000 (подбором), чтобы для максимального х=1023, каждая из 3х частей формулы влазила в 2млрд.(предел long int). результат формулы делится на 150000.
заменил плату коррекции измеренного тока на вычисления.
сравнил в натуре с мультиметром, небольшая разница только в
3м 2м знаке на мультиметре.