Aritmetisk præcision
Præcisionen af en numerisk værdi beskriver antallet af cifre, der bruges til at vise værdien. I en videnskabelig sammenhæng er dette det samlede antal cifre (undertiden kaldet signifikante tal eller signifikante cifre) eller, mindre almindeligt, antallet af brøkcifre eller decimaler (antallet af cifre efter decimalkommaet). Denne anden definition er nyttig i finansielle og tekniske anvendelser, hvor antallet af cifre i brøkdelen har særlig betydning.
I begge tilfælde kan udtrykket "præcision" bruges til at beskrive den position, hvor et upræcist resultat vil blive afrundet. I f.eks. flydende aritmetik afrundes et resultat til en given eller fast præcision, som er længden af den resulterende signifikant. I finansielle beregninger afrundes et tal ofte til et bestemt antal steder (f.eks. til to steder efter decimaladskillelsen for mange verdensvalutaer).
F.eks. kan decimaltallet 12,345 udtrykkes med forskellige antal betydende cifre eller decimaler. Hvis der ikke er tilstrækkelig præcision til rådighed, afrundes tallet på en måde, så det passer til den tilgængelige præcision. Følgende tabel viser resultaterne for forskellige samlede præcisioner og decimaler afrundet til den nærmeste værdi ved hjælp af afrundingsmetoden.
Bemærk, at det ofte ikke er hensigtsmæssigt at vise et tal med flere cifre end det, der kan måles. Hvis et apparat f.eks. måler til nærmeste gram og giver en måling på 12,345 kg, ville det skabe falsk præcision, hvis målingen blev udtrykt som "12,34500 kg" med 2 ekstra nuller ("00") til sidst.
Repræsentationen af et positivt tal x med en præcision på p signifikante cifre har en numerisk værdi, der er givet ved formlen
rund(10-n-x)-10n, hvor n = gulv(log10 x) + 1 - p.
For et negativt tal er den numeriske værdi minus den absolutte værdi. Tallet 0 kan med enhver nøjagtighed betragtes som 0.
Relaterede sider
Spørgsmål og svar
Spørgsmål: Hvad er præcision i en numerisk værdi?
A: Præcisionen i en numerisk værdi beskriver antallet af cifre, der anvendes til at vise værdien.
Spørgsmål: Hvordan kan præcision bruges til at beskrive den position, hvor et upræcist resultat vil blive afrundet?
Svar: Præcision kan bruges til at beskrive den position, hvor et upræcist resultat vil blive afrundet, ved at indstille en given eller fast præcision, som er længden af det resulterende signifikant. I finansielle beregninger afrundes et tal ofte til et bestemt antal steder (f.eks. to steder efter decimaladskilleren for mange verdensvalutaer).
Sp: Hvordan kan 12,345 udtrykkes med forskellige antal betydende cifre eller decimaler?
Svar: 12,345 kan udtrykkes med forskellige antal betydende cifre eller decimaler ved at afrunde det, så det passer til den tilgængelige præcision ved hjælp af afrundingsmetoden.
Sp: Hvad sker der, når der ikke er tilstrækkelig præcision til rådighed?
Svar: Når der ikke er tilstrækkelig præcision til rådighed, afrundes tallet på en måde, så det passer til den tilgængelige præcision.
Spørgsmål: Er det hensigtsmæssigt at vise et tal med flere cifre end det, der kan måles?
A: Nej, det er ikke hensigtsmæssigt at vise et tal med flere cifre end det, der kan måles, da dette skaber falsk præcision. Hvis et apparat f.eks. måler til nærmeste gram og giver en måling på 12,345 kg, ville det skabe falsk præcision, hvis målingen blev udtrykt som "12,34500 kg" med to ekstra nuller ("00") til sidst.
Sp: Hvilken formel repræsenterer positive tal x med en præcision på p signifikante cifre?
Svar: Formlen, der repræsenterer positive tal x med en præcision på p signifikante cifre, har en numerisk værdi, der er givet ved round(10-n-x)-10n , hvor n = floor(log10 x) + 1 - p . For negative tal er den numeriske værdi minus den absolutte værdi, og 0 har en hvilken som helst præcision, der er lig med 0
