信通院称人工智能风险分为5个等级 AI会有什么影响

12月24日，在2024中国信通院ICT深度观察报告会人工智能伙伴分论坛上，中国信息通信研究院发布2023年人工智能风险管理体系。该体系将人工智能带来的风险分为两类，包括自身技术系统造成的风险以及应用生产的风险，同时参考我国现行网络安全等级保护要求将人工智能风险划分为5个等级。最高的第五等级风险是指对人类社会有一定的颠覆性影响，比如不受人类控制的强人工智能，具有极强的自主性。

人工智能的发展可能会带来一定的偏见和歧视，比如通过训练数据的人工智能系统，可能会在无意当中延续或放大社会偏见。人工智能技术需要收集和分析大量的个人数据，会引发数据隐私和安全相关的问题。道德困境也是一个大问题，在人工智能系统中灌输道德和伦理价值观，是一项极大的挑战。