Hét vraag- en antwoordplatform van Nederland

Waarom geeft mijn grafische rekenmachine een kleine waarde aan als het 0 moet zijn?

Als ik bijv. het minimum van de functie f(x)=x^3-3x^2+4 bereken met de GR, geeft hij als minimum (2,0000018 ; 1,01E-11) terwijl het gewoon (2,0) is.
Waarom doet hij dat?

Verwijderde gebruiker
8 jaar geleden
in: Wiskunde
Geef jouw antwoord
0 / 2500
Geef Antwoord

Het beste antwoord

Dat kan te maken hebben met hoe je rekenmachine de berekeningen uitvoert en (tussentijdse) resultaten opslaat. Vaak zijn dat benaderingen waarvan de fout niet zichtbaar is omdat er minder decimalen worden weergegeven dan de foutmarge; maar soms worden die afrondings- en/of berekeningsfouten wel zichtbaar.

Meer informatie door te zoeken naar 'floating point (errors)'.
Verwijderde gebruiker
8 jaar geleden
Deel jouw antwoord
0 / 2500
Geef Antwoord
logo van Kompas Publishing

GoeieVraag.nl is onderdeel van Kompas Publishing