业务需求需要批量插入大量数据,最开始使用java多线程进行插入,由于后期接入数据量越来越多导致数据入库不及时,且数据库经常异常卡死。
现在采用sqlserver的 bulk insert 批量插入数据,经过测试 8.5W条数据实际插入时间耗时 0.5~0.6s之间,相比之前多线程插入速度提升数十倍
//插入语句如下
BULK insert bulk_insert from 'E:\data\heavy\GRID_202011161200.csv' WITH
(
FIRSTROW = 2,
FIELDTERMINATOR = ',', --csv 字段分隔符
ROWTERMINATOR = '\n', --csv 换行符
TABLOCK
)