|
Archives of the TeradataForumMessage Posted: Mon, 05 May 2003 @ 19:21:22 GMT
IEEE 64-bit floats (8 bytes) have 15-17 decimal digits of accuracy. IEEE 32-bit floats (4 bytes) only have around 5-6 digits of accuracy.
| ||||||||||||||||||||||||||||||||||||||||||||||||
| ||||||||||||||||||||||||||||||||||||||||||||||||
Copyright 2016 - All Rights Reserved | ||||||||||||||||||||||||||||||||||||||||||||||||
Last Modified: 15 Jun 2023 | ||||||||||||||||||||||||||||||||||||||||||||||||