floating-point underflow: niedomiar zmiennoprzecinkowy, niedomiar zmiennopozycyjny

22 listopada 2012
1 gwiadka2 gwiazdki3 gwiazdki4 gwiazdki5 gwiazdek
Sytuacja, w której wynik operacji zmiennoprzecinkowej jest mniejszy niż najmniejsza możliwa do przedstawienia w danym systemie liczba zmiennoprzecinkowa. W wyniku tego następuje znaczna utrata precyzji obliczeń.

Dyskusja

Twój adres e-mail nie zostanie opublikowany. Wymagane pola są oznaczone *