Страница 1 из 1

как правильно вывести из текстовой строки значение в число соответствующее строки после запятой

Добавлено: 09 авг 2021, 06:47
Di123
2021-08-09_103347.png
у меня получилось вывести из строки после запятой только числа до 0,59 то есть на выходе имею правильные цыфры которые соответствуют строке
допустим
0,00 - 0
0,01 - 1
0,02 - 2
0,03 - 3

но стоит перешагнуть рубеж в 1,00 как он стабильно занижает их на 1
допустим
1,00 - 0
1,01 - 0
1,02 - 1
1,03 - 2

Отправлено спустя 3 минуты 37 секунд:
0,59 выше мне не надо было
и соответственно до 1,59 2,59 3,59 ...

как правильно вывести из текстовой строки значение в число соответствующее строки после запятой

Добавлено: 09 авг 2021, 07:40
cmept-27
[ref]Di123[/ref], А если так
2.png

как правильно вывести из текстовой строки значение в число соответствующее строки после запятой

Добавлено: 09 авг 2021, 08:26
Di123
там не всё так просто
я с телефона подаю настройку в виде текста допустим 10,30 которая дальше раскладывается на 10 часов 30 минут
нельзя выделить конкретный участок ибо цыфры могут присутствовать от 0,00 - 23,59

2021-08-09_114914.png
и я тут погонял часть кода отдельно генератором попробовал проверить соответствие чисел и выходит что блок конвертера флоат в интегр зажовывает некоторые числа неимея закономерности
допустим подаётся 0,53 а на выходе имеем 52 хотя перед конвертером 53,00 бред какой то
и потом он выравнивается теряя одно число кажется 1,06

Отправлено спустя 27 минут 34 секунды:
выглядит это так
каждый столбец соответствует прохождению сигнала от начала до конца
2021-08-09_122403.png

как правильно вывести из текстовой строки значение в число соответствующее строки после запятой

Добавлено: 09 авг 2021, 08:33
cmept-27
[ref]Di123[/ref], Если силами FLPROG то можно так ))
2.png

как правильно вывести из текстовой строки значение в число соответствующее строки после запятой

Добавлено: 09 авг 2021, 09:00
Di123
не работает выше 0,09 нельзя получить число
тоесть подаю 0,10 на выходе 00
2021-08-09_125608.png
Отправлено спустя 2 минуты 6 секунд:
и проблема не в конвертере строк потомучто час у меня без проблем выцепляется 0 - 23

как правильно вывести из текстовой строки значение в число соответствующее строки после запятой

Добавлено: 09 авг 2021, 09:55
cmept-27
[ref]Di123[/ref], Попробуй
1_(Code_-_Basic).ubi

как правильно вывести из текстовой строки значение в число соответствующее строки после запятой

Добавлено: 09 авг 2021, 11:48
Di123
не так тоже нельзя
любой ввод чисел сбрасывает в 0 установку

как правильно вывести из текстовой строки значение в число соответствующее строки после запятой

Добавлено: 09 авг 2021, 12:12
cmept-27
[ref]Di123[/ref], Поменяй в настройках блока , на .
Безымянный.png

как правильно вывести из текстовой строки значение в число соответствующее строки после запятой

Добавлено: 09 авг 2021, 12:24
Di123
нет всё так же в 0 давит
2021-08-09_162335.png

как правильно вывести из текстовой строки значение в число соответствующее строки после запятой

Добавлено: 09 авг 2021, 12:27
cmept-27
[ref]Di123[/ref], Скинь проэкт

как правильно вывести из текстовой строки значение в число соответствующее строки после запятой

Добавлено: 09 авг 2021, 12:31
Di123
таймер ЕСП 3.flp

как правильно вывести из текстовой строки значение в число соответствующее строки после запятой

Добавлено: 09 авг 2021, 13:19
cmept-27
[ref]Di123[/ref], Пробуй у меня работает
таймер ЕСП 3.flp

как правильно вывести из текстовой строки значение в число соответствующее строки после запятой

Добавлено: 09 авг 2021, 13:57
Di123
нет время так и не устанавливается до сих пор
допустим ввожу 0,02 это 0 часов 2 минуты должно установится в часах но он сбрасывает в 0 опять

Отправлено спустя 1 минуту 54 секунды:
может все таки покопать мой вариант там хоть работало всё только числа пропадали магическим путём притом всегда одни и те же

как правильно вывести из текстовой строки значение в число соответствующее строки после запятой

Добавлено: 09 авг 2021, 14:15
cmept-27
[ref]Di123[/ref], Так ты вводи время через точку ,а не запятую

Отправлено спустя 10 минут 45 секунд:
[ref]Di123[/ref], Или вводи время в REMOTY XY цифрами. А В твоем проекте ты берешь время с float переводишь в int и округляешь его к ближайшему вот твои цифры и теряются.

как правильно вывести из текстовой строки значение в число соответствующее строки после запятой

Добавлено: 09 авг 2021, 14:29
edyapd
Di123 писал(а): 09 авг 2021, 06:47 но стоит перешагнуть рубеж в 1,00 как он стабильно занижает их на 1
допустим
1,00 - 0
1,01 - 0
1,02 - 1
1,03 - 2
Можете в монитор вывести, что у вас получается после умножения?
Возможно, что вам надо умножить на 100.01. Или вставить между умножением и преобразованием в интежер блок округления.

как правильно вывести из текстовой строки значение в число соответствующее строки после запятой

Добавлено: 09 авг 2021, 15:43
Di123
[ref]cmept-27[/ref], телефон и так через точку вводит
2021-08-09 19-20-32.MP4

[ref]edyapd[/ref], да вот как в 4 столбце
2021-08-09_122403.png

как правильно вывести из текстовой строки значение в число соответствующее строки после запятой

Добавлено: 09 авг 2021, 15:44
Di123
[ref]edyapd[/ref], с вариантом умножения на 100,01 вы прям отлично угадали попробовал те числа на которые он игнорировал всё прекрасно теперь
щас только прогоню все числа на всякий случай мож он их просто заменил другими игнорами

как правильно вывести из текстовой строки значение в число соответствующее строки после запятой

Добавлено: 09 авг 2021, 17:37
edyapd
[ref]Di123[/ref], попробуйте поГуглить такой вопрос "почему может уменьшиться точность чисел с плавающей запятой".
Возможно это внесёт ясность почему у вас преобразование не работает так, как вы ожидаете.