加快AI推理 探索英特尔至强可扩展处理器在OCR应用落地方面的实践

运用人工智能来加快公司流程自动化的过程，推动业务流程的数智化重塑或升级，已经成为企业提升工作效率、助力商业创新的重要方式。在此过程中，由AI赋能的智能光学字符识别 (OCR) 应用发挥着日益重要的价值。

随着人工智能技术的发展，由AI赋能的OCR已经在金融、政府、制造、互联网、医疗等行业的单据识别、信息流入、图片翻译、车牌识别等场景得到广泛应用，帮助企业有效地释放人力资源，提升工作效率，为广泛的数智化应用提供基础能力支撑。

随着当前大语言模型的发展，OCR技术将会成为大语言模型应用的一个重要入口和前置的输入来源。OCR本身是个很大的市场，其算法和程序需要部署在很多地方，可能是公有云、私有云，或者是边缘的本地服务器，甚至是一些终端设备上。

有非常多的软件开发商和算法供应商参与其中，厂商们通常需要一个更有成本优势、硬件适配性更广的解决方案。

经过OpenVINO 工具套件优化的算法服务，响应时间降低到3秒以内，使得在切换整个处理架构时不会影响整体的业务响应时间和对应的时延，对单个的用户而言是无价值感知的。

亚信科技产品运营专家吕莹介绍到：亚信科技机器人流程自动化平台（AISWare AIRPA）是通过模拟并增强人类与计算机的交互过程，实现工作流程自动化的平台。其在RPA功能的基础上，提供了强大的智能OCR支持。

在智能OCR应用中，亚信科技通过第四代至强®️ 可扩展处理器和英特尔®️ AMX支持实现从FP32到INT8/BF16的量化，从而在可接受的精度损失下，增加吞吐量并加速推理。

从结果上来看，相比传统人工方式，成本降低了1/5到1/9之间，而且效率还提升了5-10倍。目前，中国科学院计算技术研究所已经开始研发基于神经网络的自动驾驶系统，预计今年年底可以实现量产。

（编辑：银川站长网）

【声明】本站内容均来自网络，其相关言论仅代表作者个人观点，不代表本站立场。若无意侵犯到您的权利，请及时与联系站长删除相关内容!