[Pluto-help] [forse OT] =?utf-8?b?RG92J8Oo?=l'errore?
Mauro Moscati
bdxgm a tin.it
Mer 16 Apr 2003 12:57:43 CEST
Salve gente, in un momento di "follia" mi sono messo a giocherellare con la
calcolatrice scientifica (KCalc 1.3.1) e mi sono accorto di una cosetta:
se inserisco n cifre, a seconda della notazione usata, ad un certo punto non
mi inserisce più i valori digitati, ma altri; certo, sono cifre elevate, che
spero non siano usate poi tanto spesso, tuttavia, c'è un errore da qualche
parte. Secondo voi, dove risiede tale errore?
---
esempio:
notazione esa (hex):
inserendo "F" per 8 volte va tutto bene, alla nona iniziano gli errori
notazione decimale (dec):
inserendo "1" per 16 volte va tutto bene, alla diciassettesima, scatta
l'errore
inserendo "9" per 15 volte alla sediciesima scatta l'errore, ed il numero
viene convertito in 10000000000000000
notazione ottale (oct):
un questo caso restituisce un "Errore" e non consente più l'inserimento, al
contrario degli altri casi dove invece inserisce valori diversi
notazione binaria (bin):
in questo caso vanno bene le immissioni delle prime 32 cifre, dalla
trentatreesima scatta l'errore, inserisce cifre diverse
---
comunque, questi errori si ripetono anche ad inserimenti di cifre non
costanti; per esempio, in notazione decimale, inserendo la sequenza:
12345678901234567
ottengo la sequenza
12345678901234568
per non parlare se provo ad inserire la sequenza:
12345678901234567890
ottengo:
12345678901234569216
secondo voi dov'è l'errore? è un problema di KCalc? di come Linux gestisce la
memoria? un problema hardware?
ciao a tutti, Mauro
PS vi prego, non linciatemi se questa mail è OT, semplicemente, mi sono
accorto della cosa e volevo sapre la vostra opinione, visto che altri errori
simili li avevo riscontrati tempo fa sotto MySQL (sia sotto win che sotto lin
e che su macchine differenti); in tal caso, inserivo un valore decimale, come
"prezzo di un libro" e poi, quando interrogavo il DB chiedengogli il libro
con il prezzo maggiore, anzichè restituirmi, per esempio, 25.50 mi restituiva
un numero del tipo: 25.4997654... e personalmente non ho ancora capito il
motivo di tale differenza, visto che non doveva effettuare nessun calcolo su
tale cifra, ma semplicemente un confronto...
More information about the pluto-help
mailing list