微信扫一扫
关注北京致公
订阅号
微信扫一扫
关注中国致公
订阅号
2023年,ChatGPT等大型语言模型迅猛发展,虽带来便利与创新机遇,但也引发担忧,如取代人类工作、监督控制难题等。北京科技资源与创新环境优越,AI实力强大,截至2024年1月15日,有145个AI大模型企业,占全国近半,生成式人工智能技术领先。在此背景下,加强北京AI大模型价值对齐布局,对推动北京乃至全国AI产业健康可持续发展意义重大。 北京市政协委员顾行发认为,北京AI大模型产业布局早,基础坚实。创新基础方面,科研环境一流,高校和科研院所为研发提供理论支持和创新思路,多学科科研团队协作助力技术突破。技术实力强大,在关键技术领域成果丰硕,部分达国际先进水平。模型迭代环境活跃,企业和科研机构合作竞争,推动模型优化升级,使其适应市场需求。截至2023年10月,北京大模型创新团队122家,通用大模型厂商及高校院所37家,行业大模型85家,推动AI在多领域融合应用,为价值对齐布局提供产业实践基础和应用场景支撑。 北京AI大模型产业虽成绩显著,但价值对齐尚在起步探索阶段,与上海、深圳等城市有差距。2023年5月,北京市发布《北京市促进通用人工智能创新发展的若干措施》,虽重视人工智能健康发展,但缺乏价值对齐的专门性、系统性法规条例。而上海、深圳已出台相关地方法规,将AI伦理治理纳入立法体系,为当地价值对齐工作提供法律依据和制度保障。 为此,顾行发建议,应未雨绸缪,合力营造AI大模型价值对齐生态。一是凝聚多元主体力量,政府主导制定政策,企业履行社会责任,行业组织搭建平台,学术团体加强理论研究,用户和消费者增强价值判断意识,社会公众参与监督,媒体做好宣传引导,形成合力。二是贯穿全生命周期的伦理管理,各参与主体在设计、开发、部署阶段履行伦理管理责任,开展预评估、审查等工作,同时鼓励通过多种方式推进科技伦理自律。三是推动跨学科跨领域融合共建价值观体系,政府引导高校、科研院所与企业合作,设立基金、组织项目、举办活动,构建符合北京实际的价值观体系。 构建敏捷治理机制,建立专业监测团队,运用技术手段实时跟踪,依托智能监测系统收集分析信息,动态调整治理方式。完善综合评估机制,从数据隐私保护、算法公平、模型准确性、应对意外事件等维度评估,为价值对齐提供科学依据。健全技术伦理规范与监管体系,明确行为规范,推动企业和行业建立自律机制,整合监督力量,加强监管。 发挥优势深化国际合作,利用北京资源,加强与国际领先国家和组织交流,分享经验成果,学习借鉴先进理念,推动制定国际协议。促进交流协作实现普惠发展,鼓励企业、科研机构开展联合研发、人才交流、产业合作,反对技术排斥主义,推动技术普惠。融入全球治理贡献中国智慧,抓住机遇融入全球科技治理体系,结合中国文化和价值观,提出AI治理方案,利用国际平台发声,提升话语权和影响力。 (来源:人民日报客户端北京频道 原标题:北京市政协委员顾行发建议:加强AI大模型价值对齐布局) |