Открытый христианский форум JesusChrist.ru

Библия | Книги | Словари | Софт | Аудио, BQT, Евангелизм, JCQ, Молитва

Добро пожаловать на Открытый христианский форум JesusChrist.ru. Для того чтобы писать в форуме, Вам необходимо зарегистрироваться и войти на форум через ссылку для входа.

Общие разделы
   >> Технофорум
Просмотров: 8264 Просмотреть ВСЕ ветвиСледующая ветвь*

В теме участвуют: shourisha (12) chaotic (5) Шарфик (5) Ephes (2) Тимофей (2) F.D.V. (1) Странник (1)

shourisha
22/11/05 12:34
www.spreadbible.com

Re: Что за фигня с JesusChrist.ru происходит? [re: Шарфик]Help admins  

А Вы не желаете расширить свои знания всем известными вещами?
"What Every Computer Scientist Should Know About Floating-Point Arithmetic"

Именно поэтому так оно и работает:
shourisha@gandalph:(~) python
Python 2.4.1 (#1, May 26 2005, 18:18:51)
[GCC 3.3.3 (SuSE Linux)] on linux2
Type "help", "copyright", "credits" or "license" for more information.
>>> f = 10 / 3.
>>> f
3.3333333333333335
>>> repr(f)
'3.3333333333333335'
>>> str(f)
'3.33333333333'
>>> round(f, 10)
3.3333333333000001
>>> round(f, 100)
3.3333333333333335
>>> round(f, 6)
3.3333330000000001
>>> round(f, 0)
3.0
>>> round(f, 1)
3.2999999999999998

На Intel вот так, на 64bit AMD по-другому, на Alpha под HP-UX еще иначе,на PowerPC G5 еще иначе.



Вся ветвь
ЗаголовокАвторОтослано
*Что за фигня с JesusChrist.ru происходит? chaotic   17/11/05 22:02
.*Re: Что за фигня с JesusChrist.ru происходит? Странник   24/11/05 15:42
.*Re: Что за фигня с JesusChrist.ru происходит? Chaotic   24/11/05 17:50
.*Re: Что за фигня с JesusChrist.ru происходит? Тимофей   18/11/05 13:43
.*Re: Что за фигня с JesusChrist.ru происходит? Chaotic   19/11/05 00:09
.*Re: Что за фигня с JesusChrist.ru происходит? shourisha   18/11/05 13:59
.*Re: Что за фигня с JesusChrist.ru происходит? Тимофей   18/11/05 14:13
.*Re: Что за фигня с JesusChrist.ru происходит? shourisha   18/11/05 14:24
.*Re: Что за фигня с JesusChrist.ru происходит? shourisha   18/11/05 11:26
.*Re: Что за фигня с JesusChrist.ru происходит? Chaotic   18/11/05 12:39
.*Re: Что за фигня с JesusChrist.ru происходит? shourisha   18/11/05 13:23
.*Re: Что за фигня с JesusChrist.ru происходит? Шарфик   21/11/05 19:01
.*Re: Что за фигня с JesusChrist.ru происходит? shourisha   21/11/05 19:06
.*Re: Что за фигня с JesusChrist.ru происходит? Шарфик   21/11/05 21:32
.*Re: Что за фигня с JesusChrist.ru происходит? shourisha   22/11/05 12:34
.*Re: Что за фигня с JesusChrist.ru происходит? Шарфик   22/11/05 23:53
.*Re: Что за фигня с JesusChrist.ru происходит? shourisha   23/11/05 14:06
.*Re: Что за фигня с JesusChrist.ru происходит? Шарфик   23/11/05 18:52
.*Re: Что за фигня с JesusChrist.ru происходит? shourisha   23/11/05 19:03
.*Re: Что за фигня с JesusChrist.ru происходит? Шарфик   23/11/05 19:21
.*Re: Что за фигня с JesusChrist.ru происходит? shourisha   23/11/05 19:56
.*Re: Что за фигня с JesusChrist.ru происходит? Ephes   21/11/05 18:19
.*Re: Что за фигня с JesusChrist.ru происходит? shourisha   21/11/05 18:23
.*Re: Что за фигня с JesusChrist.ru происходит? Ephes   22/11/05 14:03
.*Re: Что за фигня с JesusChrist.ru происходит? shourisha   22/11/05 16:43
.*Re: Что за фигня с JesusChrist.ru происходит? Chaotic   18/11/05 20:30
.*Re: Что за фигня с JesusChrist.ru происходит? shourisha   19/11/05 13:25
.*Re: Что за фигня с JesusChrist.ru происходит? F.D.V.   18/11/05 12:49
Перейти на