sql >> Database >  >> RDS >> Sqlserver

schaalverlies bij het uitvoeren van de berekening

De regels voor decimal naar decimal conversie voor vermenigvuldigen en delen worden beschreven in BOL .

maar laat het niet gespecificeerd hoe een dergelijke inkorting precies wordt uitgevoerd. Dit wordt hier gedocumenteerd . Soms is het echter gemakkelijker om gewoon vallen en opstaan ​​te gebruiken!

Onderstaande tussenafgietsels geven u het gewenste resultaat. Kun je daarmee leven?

DECLARE @var NUMERIC(19,8)
DECLARE @a NUMERIC(19,8)
DECLARE @b NUMERIC(19,8)

SET @var = -413.72063274
SET @a   = 651.00000000
SET @b   = 1000.00000000

DECLARE @v SQL_VARIANT 
SET @v =  CAST(@a/@b AS NUMERIC(24,10))* CAST(@var AS NUMERIC(23,8))

SELECT    CAST(SQL_VARIANT_PROPERTY(@v, 'BaseType') AS VARCHAR(30)) AS BaseType,    
          CAST(SQL_VARIANT_PROPERTY(@v, 'Precision') AS INT) AS PRECISION,    
          CAST(SQL_VARIANT_PROPERTY(@v, 'Scale') AS INT) AS Scale


  1. PHP PDO:charset, setnamen?

  2. CodeIgniter:SQL-controle van alle $this->db->query()-methodeaanroepen?

  3. MySQL-query duurt meer dan 6 seconden

  4. Query vastleggen tijdstempel 0000-00-00 00:00:00