一个函数解决SQLServer中bigint 转 int带符号时报错问题
作者：hebedich 发布时间：2024-01-19 23:26:36
标签：SQLServer,bigint转int
有一个需求是要在一个云监控的状态值中存储多个状态（包括可同时存在的各种异常、警告状态）使用了位运算机制在一个int型中存储。
现在监控日志数据量非常大（亿级别）需要对数据按每小时、每天进行聚合，供在线报表使用。
状态分了3个级别：正常（0）、警告（1）、异常（2），聚合时需要使用max选择最差的状态，就需要对状态值进行处理加上级别和状态位个数，就要借助bigint型来做运算了，
问题是再将bigint 转为 int时获取原始状态值时，SQLServer报错了：
消息 8115，级别 16，状态 2，第 1 行
将 expression 转换为数据类型 int 时出现算术溢出错误。
因为状态码中已经用到了 0x80000000， 出现了符号位的问题。
写了一个转换函数解决了。
CREATE FUNCTION [dbo].[BigintToInt]
(
@Value bigint
)
RETURNS int
AS
BEGIN
-- 是否有int符号位
IF @Value & 0x80000000 <> 0 RETURN @Value & 0xFFFFFFFF | 0xFFFFFFFF00000000
-- 无符号位
RETURN @Value & 0xFFFFFFFF
END
0
投稿猜你喜欢
- 本文所述实例为Python用3行代码实现解一元一次方程，代码简洁高效，具体用法如下：>>> solve("x -
- 原来的程序是使用sqlite这个嵌入式数据库作为Remit(code name)的数据源的,因为NHibernate支持这个,然而有一点不好
项目总览创建虚拟环境mkvirtualenv meiduo_malls创建项目django-admin startproject meidu- 本文实例讲述了Python实现的质因式分解算法。分享给大家供大家参考，具体如下：本来想实现一个其它的基本数学算法问题，但是发现在实现之前必须
- 有时你提交过代码之后，发现一个地方改错了，你下次提交时不想保留上一次的记录；或者你上一次的commit message的描述有误，这时候你可
- 本文实例讲述了Python对列表排序的方法。分享给大家供大家参考。具体分析如下：1、sort()函数sort()函数使用固定的排序算法对列表
- 自己尝试在本地搭建了 Django 项目后，想部署到自己云服务器上，经常多次尝试和多次踩坑（捂脸），总结如下：环境：ubuntu14, dj
- 说明1、导入unittest模块。2、导入被测对象。3、创建测试类unittest.TestCase。4、重写setUp和tearDown(
- 尽量避免使用DOM。当需要反复使用DOM时，先把对DOM的引用存到JavaScript本地变量里再使用。使用设置innerHTML的方法来替
- 每个存储过程都有默认的返回值，默认值为0。下面我们分别看看在management studio中如何查看输出参数，返回值以及结果集，然后我们
- 本文实例讲述了Python创建系统目录的方法。分享给大家供大家参考。具体如下：Python2 mkdir在没有上级目录时创建会失败.该方法可
- 本文实例讲述了javascript设置和获取cookie的方法。分享给大家供大家参考，具体如下：1. 设置cookiefunction se
- 前言在前面两篇文章中 初见 Go Mutex 、Go Mutex 源码详解，我们学习了 Go语言 中
- Golang中的errorGolang中的 error 就是一个简单的接口类型。只要实现了这个接口，就可以将其视为一种 errortype
- 良好的编程习惯是每个程序员都应该具备的工作素质，在我的软件生涯中屡屡发现一些程序员的身上总有这样或者那样的坏毛病。这些毛病在一些从业时间不是
- 刚开始进入页面，当滚动向下超过原屏的时候。右侧会出现一个“返回顶部”的按钮。这个按钮会跟这网页一起向上向下，当滚动到顶部的时候。“返回顶部”
- 在利用Keras进行实验的时候，后端为Tensorflow，出现了以下问题：1. 服务器端激活Anaconda环境跑程序时，实验结果很差。环
- 用python语言读取二进制图片文件，并提取非零数据统计信息（例如：max，min，skewness and kurtosis）python
- 一、软件测试大型软件系统的开发是一个很复杂的过程，其中因为人的因素而所产生的错误非常多，因此软件在开发过程必须要有相应的质量保证活动，而软件
- 在我们的网站建设中，为网站打造一个契合网站主题的个性化标志则是必需的，这直接关系到能否成功地塑造网站的品牌。这从某些角度看仍在网站推广的范畴
