popkov
Цитата:
Это поведение чётко документировано:
Цитата:
В случае
Код:
In[1]:= 1.00000000000000003`18 == 1
Out[1]= True
Цитата:
In[19]:=
1.00000000000000003`18 == 1
1.00000000000000003`18 - 1 == 0
0.00000000000000003`18 == 0
Out[19]= True
Out[20]= False
Out[21]= False
Может кто-нибудь это объяснить?
Это поведение чётко документировано:
Цитата:
Approximate numbers with machine precision or higher are considered equal if they differ in at most their last seven binary digits (roughly their last two decimal digits).
For numbers below machine precision the required tolerance is reduced in proportion to the precision of the numbers.
В случае
Код:
In[1]:= 1.00000000000000003`18 == 1
Out[1]= True