人工智能商业化提速,如何平衡创新与治理?
人工智能商业化落地提速,企业关心将技术应用到产业中产出价值,从政府的角度也必须要考虑如何平衡创新和治理间的关系。
生成式AI被视为一种颠覆性技术,同时具有破坏性,它是双刃剑,可以解放生产力、发展生产力,但是对现有的破坏也需要考量,可能带来不可预知的风险和挑战。
各国家都对如何发展人工智能提出了一些办法,中国政府也发布了《生成式人工智能服务管理暂行办法》,需要把生成式AI发展和应用的范围划定清晰,同时又不妨碍其发展,所以在包容审慎和分类分级监管方面通过一个暂行办法,如有不合适的,根据各方反馈再去调整,如此促进生成式人工智能的发展。
大模型的可信风险日渐突显
大模型的可信风险日渐突显,大模型本就没有解决原来人工智能存在的问题,比如可解释、黑盒、数据泄露、不稳定等问题,同时带来很多新的问题,比如涉及知识产权问题、生成不恰当内容问题以及生成虚假肖像、图片、语音而用于非法行为的问题。
如何解决人工智能安全问题?
人工智能系统自身安全问题容易被忽视,它是个盲点。具体体现在多个方面,比如对抗机器学习,恶意样本生成,训练数据污染,出现伪造脏、假数据的情况。需要从政策层面和产业层面双管齐下,在技术层面的隐私保护技术、公平性技术、可解释性技术等,在管理层面的风险管理、人员管理、质量管理、合规管理等。
人工智能监管趋严
人工智能监管趋严是人工智能商业化面临重大问题之一,对数据来源的监管、算法模型的监管、对应用场景的监管、对社交平台的监管,这些监管趋势都非常严。
AI生态需要更加完善
大模型和讯自选股写手 风险提示:以上内容仅作为作者或者嘉宾的观点,不代表和讯的任何立场,不构成与和讯相关的任何投资建议。在作出任何投资决定前,投资者应根据自身情况考虑投资产品相关的风险因素,并于需要时咨询专业投资顾问意见。和讯竭力但不能证实上述内容的真实性、准确性和原创性,对此和讯不做任何保证和承诺。