[Pluto-help] [forse OT] =?utf-8?b?RG92J8Oo?=l'errore?

Mauro Moscati bdxgm a tin.it
Mer 16 Apr 2003 12:57:43 CEST


Salve gente, in un momento di "follia" mi sono messo a giocherellare con la 
calcolatrice scientifica (KCalc 1.3.1) e mi sono accorto di una cosetta:
se inserisco n cifre, a seconda della notazione usata, ad un certo punto non 
mi inserisce più i valori digitati, ma altri; certo, sono cifre elevate, che 
spero non siano usate poi tanto spesso, tuttavia, c'è un errore da qualche 
parte. Secondo voi, dove risiede tale errore?

---
esempio:

notazione esa (hex):
inserendo "F" per 8 volte va tutto bene, alla nona iniziano gli errori

notazione decimale (dec):
inserendo "1" per 16 volte va tutto bene, alla diciassettesima, scatta 
l'errore
inserendo "9" per 15 volte alla sediciesima scatta l'errore, ed il numero 
viene convertito in 10000000000000000

notazione ottale (oct):
un questo caso restituisce un "Errore" e non consente più l'inserimento, al 
contrario degli altri casi dove invece inserisce valori diversi

notazione binaria (bin):
in questo caso vanno bene le immissioni delle prime 32 cifre, dalla 
trentatreesima scatta l'errore, inserisce cifre diverse
---

comunque, questi errori si ripetono anche ad inserimenti di cifre non 
costanti; per esempio, in notazione decimale, inserendo la sequenza:

12345678901234567
ottengo la sequenza
12345678901234568

per non parlare se provo ad inserire la sequenza:

12345678901234567890
ottengo:
12345678901234569216

secondo voi dov'è l'errore? è un problema di KCalc? di come Linux gestisce la 
memoria? un problema hardware?

ciao a tutti, Mauro

PS vi prego, non linciatemi se questa mail è OT, semplicemente, mi sono 
accorto della cosa e volevo sapre la vostra opinione, visto che altri errori 
simili li avevo riscontrati tempo fa sotto MySQL (sia sotto win che sotto lin 
e che su macchine differenti); in tal caso, inserivo un valore decimale, come 
"prezzo di un libro" e poi, quando interrogavo il DB chiedengogli il libro 
con il prezzo maggiore, anzichè restituirmi, per esempio, 25.50 mi restituiva 
un numero del tipo: 25.4997654... e personalmente non ho ancora capito il 
motivo di tale differenza, visto che non doveva effettuare nessun calcolo su 
tale cifra, ma semplicemente un confronto...


More information about the pluto-help mailing list