sql >> Database >  >> RDS >> PostgreSQL

Type bytea casten om de precisie te verdubbelen

Voor dit doel is de best mogelijke oplossing om te converteren naar bytes met behulp van de IEEE754-1985-standaard met behulp van SQL-commando's.

Eerst moet worden gecontroleerd op speciale gevallen die zijn gedefinieerd door de IEEE754-1985-standaard. Volg dan gewoon het standaardalgoritme om te converteren als dit niet in speciale gevallen is. Voorbeeldcode staat hieronder.

Invoer is bytea_value bytea, is_little_endian boolean verdeel het dan in 4 bytes zoals hieronder:

  byte_array[0]:= get_byte(bytea_value, 0);
  byte_array[1]:= get_byte(bytea_value, 1);
  byte_array[2]:= get_byte(bytea_value, 2);
  byte_array[3]:= get_byte(bytea_value, 3);

Verkrijg vervolgens de binaire waarde door little endian of big endian te overwegen

IF is_little_endian THEN
        binary_value:= byte_array[0]::bit(8) || byte_array[1]::bit(8) || byte_array[2]::bit(8) || byte_array[3]::bit(8);
    ELSE
        binary_value:= byte_array[3]::bit(8) || byte_array[2]::bit(8) || byte_array[1]::bit(8) || byte_array[0]::bit(8); 
    END IF;

Controleer nu op speciale gevallen:

IF binary_value = '00000000000000000000000000000000' OR binary_value = '10000000000000000000000000000000' THEN -- IEEE754-1985 Zero
        return 0.0;
    END IF;

sign := substring(binary_value from 1 for 1);
    exponent := substring(binary_value from 2 for 8);
    mantissa := substring(binary_value from 10 for 23); 

    IF exponent = '11111111' THEN
        IF mantissa = '00000000000000000000000' THEN   -- IEEE754-1985 negative and positive infinity
            IF sign = '1' THEN                    
                return '-Infinity';                    
            ELSE                    
                return 'Infinity';  
            END IF;                  
        ELSE
          return 'NaN'; -- IEEE754-1985 Not a number
        END IF; 
    END IF;

Als het niet tot een speciaal geval behoort, converteer het dan zoals hieronder:

exp := exponent::int;

    IF exp > 126 THEN
     exp := exp - 127;
    ELSE
     exp:= -exp;
    END IF;

    WHILE mantissa_index < 24 LOOP
        IF substring(mantissa from mantissa_index for 1) = '1' THEN
            result := result + power(2, -(mantissa_index));
        END IF;
        mantissa_index = mantissa_index + 1;
    END LOOP;

    result := result * power(2, exp);

    IF(sign = '1') THEN
        result = -result;
    END IF;

    return result;


  1. WebSecurity.CreateAccount mislukt voor MySQL

  2. SQL Server:SELECTEER alleen de rijen met MAX(DATE)

  3. Postgres Slow groeperen op query met max

  4. Maven-afhankelijkheid instellen voor SQL Server