Математика больших чисел

На этом форуме Вы можете задать вопросы знатокам программы и автору.
Ответить
DmitriyL
Рядовой
Сообщения: 32
Зарегистрирован: 07.01.2017{, 11:24}
Репутация: 1
Откуда: Находка

Математика больших чисел

#1

Сообщение DmitriyL » 16.04.2017{, 02:49}

Столкнулся с проблемой вычисления больших чисел. Получаемое после вычислений число от 0 до 99999. Промежуточные числа в процессе вычисления формулы еще больше. Блоки математических вычислений работают с целыми числами от  -32768 до 32767. Каким образом можно победить эту проблему?
Как пример:
1000xA/B, где А от 0 до 9999, а В от 20 до 100

Bogomil
Рядовой
Сообщения: 46
Зарегистрирован: 19.09.2015{, 09:43}
Репутация: 0
Откуда: Ихтиман България

Математика больших чисел

#2

Сообщение Bogomil » 16.04.2017{, 07:44}

Используйте
Типу <Unsigned long Integer> соответствуют целые числа от: 0 до: 4294967295

Аватара пользователя
slavushka64
Сержант
Сообщения: 171
Зарегистрирован: 06.09.2015{, 12:14}
Репутация: 3
Откуда: Бишкек
Имя: Вячеслав

Математика больших чисел

#3

Сообщение slavushka64 » 16.04.2017{, 07:46}

DmitriyL, Вот так
Вложения
456.flp
(49.51 КБ) 35 скачиваний

DmitriyL
Рядовой
Сообщения: 32
Зарегистрирован: 07.01.2017{, 11:24}
Репутация: 1
Откуда: Находка

Математика больших чисел

#4

Сообщение DmitriyL » 16.04.2017{, 14:09}

Bogomil писал(а):ИспользуйтеТипу <Unsigned long Integer> соответствуют целые числа от: 0 до: 4294967295
Спасибо. А - это переменная со счетчика. В - вводится с меню. В общем, получилось через константу 1000 в формате Long Integer. По остальным блокам в цепочке в этом же формате ушло до самого LCD.
slavushka64 писал(а):DmitriyL, Вот так
В Вашем варианте будет приличная погрешность, потому что на выходе первого блока будут целые числа, и после умножения к числу просто добавятся три нуля вместо трех чисел после запятой, получившихся бы после деления в первом блоке. Если блоки ставить в цепочке ровно так же, как в формуле, то все норм.
Последний раз редактировалось DmitriyL 16.04.2017{, 15:09}, всего редактировалось 1 раз.

Аватара пользователя
slavushka64
Сержант
Сообщения: 171
Зарегистрирован: 06.09.2015{, 12:14}
Репутация: 3
Откуда: Бишкек
Имя: Вячеслав

Математика больших чисел

#5

Сообщение slavushka64 » 16.04.2017{, 15:54}

DmitriyL, Вот в двух вариантах получилось
Вложения
784.flp
(79.75 КБ) 43 скачивания

Ответить

Вернуться в «Спросить у знатоков»