Математика больших чисел

На этом форуме Вы можете задать вопросы знатокам программы и автору.
Ответить
DmitriyL
Рядовой
Сообщения: 32
Зарегистрирован: 07 янв 2017, 11:24
Откуда: Находка

Математика больших чисел

Сообщение DmitriyL »

Столкнулся с проблемой вычисления больших чисел. Получаемое после вычислений число от 0 до 99999. Промежуточные числа в процессе вычисления формулы еще больше. Блоки математических вычислений работают с целыми числами от  -32768 до 32767. Каким образом можно победить эту проблему?
Как пример:
1000xA/B, где А от 0 до 9999, а В от 20 до 100
Bogomil
Рядовой
Сообщения: 46
Зарегистрирован: 19 сен 2015, 09:43
Откуда: Ихтиман България

Математика больших чисел

Сообщение Bogomil »

Используйте
Типу <Unsigned long Integer> соответствуют целые числа от: 0 до: 4294967295
Аватара пользователя
slavushka64
Сержант
Сообщения: 171
Зарегистрирован: 06 сен 2015, 12:14
Откуда: Бишкек
Имя: Вячеслав

Математика больших чисел

Сообщение slavushka64 »

DmitriyL, Вот так
У вас нет необходимых прав для просмотра вложений в этом сообщении.
DmitriyL
Рядовой
Сообщения: 32
Зарегистрирован: 07 янв 2017, 11:24
Откуда: Находка

Математика больших чисел

Сообщение DmitriyL »

Bogomil писал(а):ИспользуйтеТипу <Unsigned long Integer> соответствуют целые числа от: 0 до: 4294967295
Спасибо. А - это переменная со счетчика. В - вводится с меню. В общем, получилось через константу 1000 в формате Long Integer. По остальным блокам в цепочке в этом же формате ушло до самого LCD.
slavushka64 писал(а):DmitriyL, Вот так
В Вашем варианте будет приличная погрешность, потому что на выходе первого блока будут целые числа, и после умножения к числу просто добавятся три нуля вместо трех чисел после запятой, получившихся бы после деления в первом блоке. Если блоки ставить в цепочке ровно так же, как в формуле, то все норм.
Последний раз редактировалось DmitriyL 16 апр 2017, 15:09, всего редактировалось 1 раз.
Аватара пользователя
slavushka64
Сержант
Сообщения: 171
Зарегистрирован: 06 сен 2015, 12:14
Откуда: Бишкек
Имя: Вячеслав

Математика больших чисел

Сообщение slavushka64 »

DmitriyL, Вот в двух вариантах получилось
У вас нет необходимых прав для просмотра вложений в этом сообщении.
Ответить

Вернуться в «Спросить у знатоков»

Кто сейчас на конференции

Сейчас этот форум просматривают: нет зарегистрированных пользователей и 0 гостей