sql >> Database >  >> RDS >> Sqlserver

Berekening van SQL Server Float-gegevenstype versus decimaal

Float is nauwkeurig tot 15 significante cijfers alleen (in SQL Server).

Dit wordt aangetoond door 1.52415693411713 E+17 waar 1.52415693411713 (15 cijfers) is zo nauwkeurig als je kunt krijgen. De laatste 020... na 152415693411713 met STR is verzonnen is de resolutie van drijvende komma

Gebruik geen float om de precisie te behouden. Zo simpel is het. CAST naar decimaal als je wilt voor berekening, maar als je terug CAST om te zweven, ben je zijn beperkt tot 15 cijfers

Zie "Wat elke computerwetenschapper moet weten over drijvende-komma-rekenkunde "



  1. CAST()-functie in Oracle

  2. JSON versus seriële array in database

  3. 4 belangrijke databasebewakingsactiviteiten die elke DBA moet weten

  4. PHP Gegevens invoegen van de ene tabel naar de andere