国际数据公司（IDC）发布的《人工智能基础架构市场（2019下半年）跟踪》报告显示，2019年人工智能基础架构市场规模达到20.9亿美元，同比增长58.7%。其中GPU服务器占据96.1%的市场份额。IDC预测，到2024年中国GPU服务器市场规模将达到64亿美元。
从厂商角度看，浪潮、华为和曙光依然稳居前三位，占据了74%以上的市场份额。
从行业角度看，互联网依然为主要采购行业，占有近50%的市场份额，并且最终用户也不仅仅局限于BAT这类大型互联网公司；服务和政府行业次之，分别占有18.4%和16.9%市场份额。其中服务、教育、金融和制造四个行业在2019年中出现了大幅度上涨。
从服务器配置的角度看，可搭载8片加速卡的服务器更为主流，占有40%以上的市场份额；2路服务器依然是最终用户的首选，占有近80%的市场份额。
从工作负载角度看，用于推理的服务器在2019年占有40%以上的市场份额。IDC预测，到2021年，用于推理的服务器将超过用于训练的服务器，达到51.3%的市场占比。