媒体发声丨肖仰华教授解读暂停巨型AI实验联名公开信

近期,美国亿万富翁埃隆·马斯克和人工智能领域顶尖专家、图灵奖得主约书亚·本吉奥(Yoshua Bengio)等人联名签署了一封公开信,呼吁暂停开发比GPT-4更强大的AI系统至少6个月,称其“对社会和人类构成潜在风险”。

 

复旦大学教授肖仰华接受新闻夜线的采访时,就以上公开信的呼吁内容进行了一些解读,以下是详细内容

 

有关暂停时间6个月的时间段,肖仰华教授认为现在通用人工智能迭代的速度是非常快的,随着通用人工智能,随着大模型的到来,记录历史事件的时间尺度变小了,变成了按月甚至是按天。如果大家关注到ChatGPT发布的这几个月以来,一系列通用人工智能的发展,可以发现很多是在按天在计算。我想他提出6个月即180天左右的时间,是为了确保我们有一个足够多的时间去理解通用人工智能带给了我们怎么样的冲击。事实上,到现在我们还没有完全消化。

 

那么同为AI系统的AI治理系统又是否会形成新的风险点?肖仰华教授提出:“我们一般的AI系统还是面向功能,实现人的某种能力。AI治理系统,它的目的是以守住安全底线为基本,所以设计目的不同的两类子系统,就有可能既发挥一般AI系统造福人类的效用和功能,同时又通过AI的治理系统来守住它可能守不住的底线,那么这样的话,可以确保我们整个AI系统是造福人类的。”

 

一向推崇技术推陈出新,比拼发展的科技人士为什么会对AI如此忌惮,可能被按下暂停键的AI研究未来究竟如何发展?肖仰华教授的解读是:“我认为担心的还是失控吧,其实AI的从业人员走在最前沿,他们是能够嗅到“战火”的人,他们感受到的AI的强大,是要比一般的民众对于AI的能力以及风险感受得更及时和真切的。不单单是他们,其实我们国内的AI研究人员,但凡有一些大模型的研究经验的,大家都逐渐意识到了、看到了可能的潜在的风险。我觉得就是在做好AI治理,守住AI安全底线的前提下,持续的有计划地提升AI系统的能力,AI能力就是一种生产力,持续提高生产力,是人类社会发展的主要目标之一。”

 




友情链接
联系我们
地址: 中国 上海市杨浦区淞沪路2005号复旦大学江湾校区2号交叉学科楼
邮编: 200438
电话: +86-21-31242153
传真: +86-21-31242153
E-mail: dataology@fudan.edu.cn