rounding error: błąd zaokrąglania

> Dodaj do ulubionych
Błąd powstały w wyniku zapisania w typie zmiennoprzecinkowym liczby, której nie da się w nim precyzyjnie zaprezentować ze względu na ograniczoną liczbę bitów, jaką typ ten dysponuje. Np. nie da się w postaci liczby zmiennoprzecinkowej precyzyjnie zaprezentować ułamka 1/3.

Dodaj komentarz

1 × trzy =