何积丰院士提出对齐技术为大模型戴上“紧箍咒”，解决人工智能安全隐私问题，投资者可关注新兴技术发展

何积丰院士在2023 INCLUSION・外滩大会上提出了对齐技术为大模型戴上“紧箍咒”的解决方案，以解决人工智能发展带来的安全隐私问题。大模型的通用能力让其能够应用到各个场景中，但也带来了隐私泄露的风险，这些问题可能发生在训练过程或使用过程中。大模型的生成能力让隐私泄露的方式变得多样化，这让隐私保护变得更加困难。因此，对齐技术成为了跨学科研究的热点。对齐技术的基础是人类的价值观，这是多元且动态变化的，需要保证大模型为人服务、与人为善。对齐技术的实现方式有两种，一种是通过人工反馈给模型不同的奖励信号，引导模型的高质量输出；另一种是事先给大模型提供明确的原则，系统自动训练模型对所有生成的输出结果提供初始排序。对齐技术同样面临着挑战，如何对错误进行有效纠正，设好大模型的“紧箍咒”也是挑战。这项技术不仅考验技术，也审视文化。此举对于二级市场投资者而言，可关注产业经济新闻中的人工智能技术，尤其是安全隐私问题，以及对齐技术等新兴技术的发展。自选股写手点评：大模型的安全问题日益凸显，对齐技术成为解决之道。对齐技术要求大模型与人类价值观一致，保证技术不会任意使用能力胡作非为，但同时也面临多元且动态变化的价值观以及大模型的有用性与无害性目标不完全一致的挑战。反馈强化学习是实现对齐的技术途径。和讯自选股写手 风险提示：以上内容仅作为作者或者嘉宾的观点，不代表和讯的任何立场，不构成与和讯相关的任何投资建议。在作出任何投资决定前，投资者应根据自身情况考虑投资产品相关的风险因素，并于需要时咨询专业投资顾问意见。和讯竭力但不能证实上述内容的真实性、准确性和原创性，对此和讯不做任何保证和承诺。