Quickcomputerstips
Flydende komma
Hvad enhver computerforsker bør vide om flydende kommaaritmetik
Hvorfor har vi brug for floating-point aritmetik? Et flydende kommasystem kan bruges til med et fast antal cifre at repræsentere tal af forskellige st...
Sætning om tab af præcision
Hvad er tab af præcision? Tab af signifikans er en uønsket effekt i beregninger ved hjælp af finit-præcision aritmetik, såsom flydende-komma-aritmetik...
Hvad bruges floating point-enheden til på processorsystemet?
Hvad er en floating-point processor? Floating-point-processoren giver instruktioner til at udføre aritmetik, sammenligning og andre operationer. POWER...