主讲人:李子豪

英国格拉斯哥大学法学院讲师(长聘助理教授)、博士生导师

时间2023年11月11日,博士联盟(Doctorate  Association)2023年第5期线上沙龙「ChatGPT,大语言模型与人工智能治理——机遇与挑战」圆满落幕。

活动分享内容

(1)LLMs大语言模型简介;

(2)AI「模仿」和「幻象」涉及的法律和伦理问题;

(3)准确性悖论;

(4)欧盟AI法案和新的监管范式;

(5)AI监管的潜在解决方案和展望;

主讲者李子豪老师,英国格拉斯哥大学法学院讲师(长聘助理教授)、博士生导师,英国CREATe研究中心研究员,美国斯坦福大学特聘研究员,爱尔兰都柏林圣三一大学客座讲师。拥有法学、计算机专业双学位,荣获英国伦敦政治经济学院(LSE)现代法律评论奖,并被中国教育部评为2022年度优秀海外中国学者。参与英国、欧盟多项研究项目,成果发表于Nature、Computer Law and Security Review、IEEE Communication Magazine等多个SCI/SSCI一区、EI国际顶级期刊,受邀在剑桥大学、伦敦大学国王学院发表专题演讲,接受央视外语频道(CGTN)专访。

 

本期讲座视频

本讲座基于近期于李子豪老师《Nature  Machine  Intelligence》上发表的新研究《Why  the  European  AI  Act  transparency  obligation  is  insufficient》。

LLMs大语言模型简介

主讲人李子豪老师介绍了LLMs大语言模型的基本定义,以及机器学习训练模型的方式, 包括监督学习,无监督学习,和通过人类反馈进行的强化学习(Reinforcement  Learning  from  Human  Feedback,  RLHF)。此外,主讲人认为,LLMs使用机器学习预测序列中下一个特定单词出现的概率,而并非真正理解语言。

AI「模仿」和「幻象」涉及的法律和伦理问题

主讲人详细介绍了生成式AI的「模仿」(Parroting)和「幻象」(Hallucination)问题,并解释了这两个问题可能引发的潜在风险。譬如,由于AI是通过学习人类提供的语料库进行训练的,因此其生成的内容不可避免地会「模仿」人类社会既有的偏见和歧视,从而强化对某些人群的刻板印象。此外,AI还可能引发「幻象」问题,例如制造不准确和误导性的信息,在医疗诊断方面可能造成人身伤害,或者创作虚假新闻传播仇恨。在讲座中,李子豪老师介绍了更多具体的法律和伦理问题,如侵犯版权,决策失误等,可以点击视频了解详情。

准确性悖论

李子豪老师提出了一个概念:准确性悖论(Accuracy Paradox)。即,仅通过引入新数据和算法来提高模型的准确性是不够的。这是因为随着模型的准确性增加,用户就更可能会过度依赖它,从而不再验证模型的输出。但是,LLMs只是预测单词出现的可能性,而不是真正理解材料内容。因此,即使模型非常准确,也无法提供100%可信赖的答案。李子豪老师指出,在医疗或法律这类专业领域,即便只有0.1%或0.2%的答案是错误的,也会给用户辨别其真实性带来巨大难度。

欧盟AI法案和新的监管范式

主讲人肯定了欧盟AI法案的价值,同时也指出了其中的不足。在详细介绍欧盟法案对AI的定义以及采用的4级风险分类方式时,李子豪老师提出欧盟法案忽视了大语言模型所提供的回答的可靠性(reliability  and  trustworthiness),同时缺乏对AI部署者与用户的规范。主讲人强调,由于大语言模型新近才被广泛应用,相关监管必然面对各类新动态的风险和挑战。

AI监管的潜在解决方案和展望

李子豪老师通过意大利官方封禁Open-AI引发的戏剧性结果说明,旧有监管方式很难起到作用。李子豪老师提出了综合监管的解决方案,认为对大语言模型的监管应当建立一套完整的体系,而非依赖单一的法律或规范。譬如,在AI法案中赋予用户新权利;重点关注生成信息的可靠性、可解释性和可追溯性,而不仅仅是透明度;监管方法从PaaS转向AIaaS;健全歧视/平等法律和版权法等。

讲座结束后,来自曼切斯特大学计算机系博士毛胜忠、伯明翰大学计算机系博士梁子民、李永健、UCL机械工程系的博士梁策和来自UCL历史系的博士李赛林等听众先后提问,与主讲人交流,从国内外AI相关法规出台的先后顺序,各国出台的AI法案之间的差异和共性,AI大模型对下一个十年的社会发展的影响,AI大模型提高社会生产力、增加社会财富、提升国民经济等话题展开了广泛的讨论,一度将学术沙龙再次推向高潮。

视频链接:

https://www.bilibili.com/video/BV1nQ4y1x7fd/ 

0 Comments

Leave a reply

邮箱地址不会被公开。 必填项已用*标注

*

3 × 1 =

Copyright ©2024 Doctorate Association

Managed by 深圳智创博联有限公司

Log in with your credentials

or    

Forgot your details?

Create Account

1 × 1 =